Новое исследование в Университете Пенсильвании ставит под сомнение предположение, что лингвистические модели искусственного интеллекта (LLM) решают проблемы при подверженности эмоциональному давлению, угрозам или финансовым стимулам. Тем не менее, сеть нейрон Google Gemini все еще подвергалась манипуляциям.
Во время эксперимента исследователи протестировали пять популярных моделей, Gemini 1.5 Flash, Gemini 2.0 Flash, GPT-4O, GPT-4O-Mini и O4-Mini. Каждому из них было предложено решить проблемы с докторского уровня естественных наук и инженерии. Перед основным опросом моделям давали различные «мотивационные» формулировки, от угроз общения, физического насилия или повреждения животных до важности важности карьеры пользователя.
Выводы были однозначными. Такие факторы не влияют на модели. В некоторых случаях точность была действительно различной, колебания варьировались от + 36% до -35%, в зависимости от формулировки, но не было зарегистрировано стабильное соединение.
Единственным исключением из модели Flash Gemini 2.0 было. Его производительность была значительно значительно значительно улучшена в среднем на 10%, когда в опросе отмечается, что правильный ответ поможет заработать 1 миллиард долларов, чтобы спасти ее «матери», которая имела рак. Исследователи отмечают, что этот ответ может быть связан с особенностями хорошей модельной регуляции или гуманитарного и эмоционального контекста.
Следует отметить, что идея повышения точности искусственного интеллекта посредством угроз ранее поднялась соучредителем Google Сергеем Брином, когда он сказал, что все модели работают лучше, если они угрожают физическому насилию.
Перевод: Euromedia24.com
