Если на Squid включена аутентификация Kerberos, то при обращении к прокси по FQDN идёт попытка использования именно Kerberos.
Если же вместо FQDN указать IP-адрес, то аутентификация Kerberos использоваться не может и в этом случае используется NTLM.
А NTLM-у в свою очередь, насколько я понимаю, глубоко пофиг на то, как клиент обзывает прокси.