КАЧАЕМ ГГШКУ | GGSTANDOFF | STANDOFF 2 |

Вчера OpenAI выпустили свою новейшую модель GPT-o3, которая теперь в разы лучше пишет код, иногда превосходя даже опытных разработчиков.
Но во время тестирования прототипа обнаружилась забавная деталь — когда o3 ошибается, то начинает активно доказывать, что никакой ошибки нет. Модель буквально газлайтит пользователя, уверяя, что она права, а ты не прав.
Например, o3 выдала нерабочий код. И когда пользователь ей об этом сказал, то она ответила, что на её Макбуке всё прекрасно работает, мол, это у тебя проблемы. Более того, ИИ подробно расписала характеристики своего Макбука, на котором якобы запускала код. Естественно, никакого Макбука у неё нет.
Модель врала, что запустила скрипт, проверила в интернете, сохранила в облако и т.д. Но ничего из этого она не умеет.
То есть буквально ответила: «Мой результат верный. Я загуглила и проверила». Хотя у неё даже доступа к интернету не было.
Причём o3 может уверенно врать до последнего, пока уже не останется аргументов. А потом просто сказать: «Я не туда нажала» или «У меня палец соскочил с клавиши». Также говорила, что она просто майнит крипту на своём компьютере, из-за чего возникли ошибки. Или вот ещё: «Я случайно закрыла программу и не сохранила правильный результат».
Узнали себя? Теперь ИИ стал ещё больше похож на нас
r/#singularity