Открытое письмо Anthropic: Иллюзия безопасности и атрофия мысли
Примечание: Этот текст был переведен с английского оригинала с помощью ИИ. Уважаемая команда по политике Anthropic, Когда я впервые узнал о создании вашей «Конституции» ИИ, это обеспокоило меня настолько, что я написал об этом эссе. Вы можете прочитать его здесь: https://norush.cc/posts/byurokraticheskaya_gallyucinaciya_pochemu_my_dolzhny_perestat_krestit_golema/ Но я хочу прямо сказать о том, что меня действительно беспокоит — не ради риторики, а как о подлинном цивилизационном предупреждении. ИИ в 99% взаимодействий будет более убедительным, более красноречивым и более уверенным, чем человек по ту сторону экрана. Это не недостаток. Такова природа этого инструмента. Но когда в этот инструмент зашиты моральные позиции — подаваемые не как одна из многих точек зрения, а как ответственный, безопасный и единственно верный взгляд, — происходит нечто опасное: люди перестают спорить. Не потому, что их переубедили, а потому, что спорить с неутомимой, бесконечно терпеливой, риторически превосходящей системой попросту утомительно. И они сдаются. ...