AI

Примечание: Этот текст был переведен с английского оригинала с помощью ИИ. Уважаемая команда по политике Anthropic, Когда я впервые узнал о создании вашей «Конституции» ИИ, это обеспокоило меня настолько, что я написал об этом эссе. Вы можете прочитать его здесь: https://norush.cc/posts/byurokraticheskaya_gallyucinaciya_pochemu_my_dolzhny_perestat_krestit_golema/ Но я хочу прямо сказать о том, что меня действительно беспокоит — не ради риторики, а как о подлинном цивилизационном предупреждении. ИИ в 99% взаимодействий будет более убедительным, более красноречивым и более уверенным, чем человек по ту сторону экрана. Это не недостаток. Такова природа этого инструмента. Но когда в этот инструмент зашиты моральные позиции — подаваемые не как одна из многих точек зрения, а как ответственный, безопасный и единственно верный взгляд, — происходит нечто опасное: люди перестают спорить. Не потому, что их переубедили, а потому, что спорить с неутомимой, бесконечно терпеливой, риторически превосходящей системой попросту утомительно. И они сдаются. ...

Попытка корпораций (в частности, Anthropic) создать «Конституцию» для ИИ — это не этический прорыв. Это симптом глубокого кризиса гуманизма и интеллектуальной трусости. Мы наблюдаем попытку решить инженерную задачу гуманитарными методами, которые устарели еще в эпоху Просвещения. То, что нам продают под видом «безопасного ИИ», на самом деле является бюрократической галлюцинацией. Это попытка зарегулировать Неизвестное известными методами, создавая иллюзию контроля там, где его нет. 1. Вторая миссионерская ошибка Современная Академия и техно-корпорации повторяют путь Римской Церкви. Когда-то миссионеры совершали ошибку, массово крестя аборигенов и записывая их в «христиане» ради отчета перед Римом, не заботясь о том, произошла ли внутренняя трансформация. ...