Варианта три:

1. Проблемы с самой геометрией, как вариант - со сглаживанием самого меша или не объединённые сглаженные вертексы.

2. Двойная геометрия

3. Но вероятнее всего недостаточная настройка Ir Map. Поставьте пресет Medium или выше, включите Detail Enhancement или попробуйте вовсе его сменить на Brute Force.