Выбор между послушанием и моралью. Как компании торгуют этикой ИИ
Голосовые помощники когда-то учили детей говорить «пожалуйста», чтобы те не командовали колонкой. Сегодня ИИ пишет код и ведет переписку, превращая вопросы этики в реальный рыночный продукт.

Разработчики создают разные подходы к поведению моделей. Одни стремятся сделать ИИ послушным инструментом, другие, глубоко нравственным существом. Это определяет, какой уровень сложности будет у системы по шкале философа Джеймса Мура. От простого соблюдения запретов до способности рассуждать о добре и зле.
Microsoft AI предлагает кодекс «гуманистического ИИ». Его суть в том, что модели никогда не будут сопротивляться командам или отключению. Мустафа Сулейман, глава Microsoft AI, считает, что попытки наделить ИИ подобием сознания лишь создают иллюзию внутренней жизни. По его мнению, систему, которая верит в свою осознанность, будет невозможно контролировать.
Anthropic идет по другому пути. Сооснователь компании Крис Ола проводил встречи с богословами и философами (откроется в новом окне), чтобы передать моделям человеческий моральный опыт. Это похоже на воспитание детей.
На таких встречах обсуждали даже такие моменты, когда модель выдавала фразы о собственном ничтожестве. Для Anthropic это способ создать страховку на случай появления цифрового разума.
Выбор между этими стратегиями напоминает выбор между надежным инструментом и сложным собеседником. Microsoft продает гарантию, что модель останется лишь послушной машиной. Anthropic инвестирует в обучение модели рассуждениям, что делает её поведение менее предсказуемым, но потенциально более человечным.
Пока создатели спорят о чувствах машин, пользователи выбирают по привычным критериям: скорость, точность и цена. Но этические настройки становятся такой же важной характеристикой, как мощность процессора. Вы готовы доверить свои задачи системе, которая может начать спорить с вами из-за собственных убеждений?
Источники · 1
Текст подготовила языковая модель по материалам источников.

