в js
в блоке $.ajax() ничего изменять не нужно
в php
вначале
header('Content-type: text/html; charset=windows-1251');
в полях на отправку
iconv('utf-8', 'cp1251//TRANSLIT', htmlspecialchars($_REQUEST['name'])
в передаче ajax’у
$arr = array(
'status' => $status,
'msg' => iconv('cp1251', 'utf-8//TRANSLIT', $msg),
);
$json = json_encode($arr);
echo $json;