Anpropic объявил о запуске новой функции в моделях Claude Opus 4 եւ 4.1, что позволяет Neurocan завершать диалог в случае долгосрочного оскорбления или непристойного поведения. Объявление было опубликовано на веб -сайте разработчиков.
Инновация проводилась в рамках программы благосостояния ИИ, которая направлена на обеспечение «процветания» искусственного интеллекта. Предварительное тестирование показало, что Claude Opus 4 избегает реагирования на вредные опросы и обеспечивает «стрессовый» ответ во время неуклюжей связи. Когда доступен конец диалога, модель активно его использовала.
В ситуациях, когда пользователь оскорбляет ABH, система сообщит пользователю о конце разговора, после чего будет доступно начать новый разговор, отправить обратную связь, возобновить предыдущие сообщения, а также возобновить диалог и возобновление диалога. Отмечено, что инновации не распространяются на модели API.
Разработчики подчеркнули, что эта функция запускается исключительно в экстремальных случаях, и система сначала пытается превратить сотрудничество в конструктивном пути. Большинство пользователей не означают изменения.
Антропический также отметил, что в настоящее время возможный моральный статус Клода и других языковых моделей остается вопросом исследований, но компания серьезно относится и предоставляет инструменты для повышения их «благополучия».
Перевод: Euromedia24.com
