La nouvelle étude de l'Université de Pennsylvanie a remis en question l'hypothèse selon laquelle les modèles linguistiques de l'intellect artificiel (LLM) résout les problèmes lorsqu'ils sont exposés à la pression émotionnelle, aux menaces ou aux incitations financières. Cependant, le réseau de neurones Gemini de Google était toujours soumis à la manipulation.
Au cours de l'expérience, les chercheurs ont testé cinq modèles populaires, Gemini 1.5 Flash, Gemini 2.0 Flash, GPT-4O, GPT-4O-MINI et O4-MINI. Chacun d'eux a été invité à résoudre les problèmes du niveau de doctorat des sciences naturelles et de l'ingénierie. Avant le sondage principal, les modèles ont reçu différentes formulations "motivationnelles", des menaces de communication, de la violence physique ou des dommages animaux à l'importance de l'importance de la carrière de l'utilisateur.
Les conclusions étaient sans équivoque. De tels facteurs n'affectent pas les modèles. Dans certains cas, la précision était vraiment différente, les fluctuations variaient de + 36% à -35%, selon le libellé, mais aucune connexion stable n'a été enregistrée.
La seule exception au modèle Flash Gemini 2.0 était. Ses performances ont été considérablement considérablement améliorées en moyenne de 10%, lorsque le sondage a noté que la bonne réponse aidera à gagner 1 milliard de dollars pour sauver sa vie de "mère", qui avait un cancer. Les chercheurs notent que cette réponse peut être due aux caractéristiques d'une régulation de modèle fin ou d'un contexte humanitaire et émotionnel.
Il est à noter que l'idée d'élever la précision de l'intelligence artificielle par le biais de menaces a déjà été soulevée par le co-fondateur de Google, Sergei Brin, quand il a dit que tous les modèles fonctionnaient mieux s'ils menacent la violence physique.
Traduction de: euromedia24.com
