OpenAI ищет баланс между безопасностью и развитием технологий
Сэм Альтман на саммите DealBook заявил, что компания постоянно ищет компромисс между внедрением новых функций и обеспечением безопасности. По его словам, OpenAI невозможно удовлетворить всех участников рынка.
Развитие ИИ неизбежно сопряжено с рисками, поэтому компания использует стратегию итеративного развертывания. Это означает поэтапный выпуск технологий для проверки их работы в реальных условиях, а не только в закрытых лабораториях. Слишком быстрый темп может вызвать опасения общества, а избыточный контроль замедлит прогресс. С повышением возможностей моделей задачи по их безопасности и согласованию с человеческими целями становятся сложнее.
Грег Брокман отметил, что вопросы безопасности и контроля поведения ИИ стали приоритетом для всей индустрии. Для проверки моделей OpenAI привлекает независимых исследователей из METR, Apollo Research и других организаций. Ранее компания уже подписывала соглашения о добровольной оценке рисков и сотрудничестве с третьими сторонами.
Конкуренция между разработчиками ИИ может помешать обеспечению безопасности, так как компании видят только собственные стандарты. Сэм Альтман призвал индустрию к созданию общих правил и большей прозрачности. Он также выразил несогласие с идеей передачи ключевых решений искусственному интеллекту, подчеркнув необходимость контроля со стороны людей.
OpenAI планирует выход на биржу, хотя ранее IPO было отложено на следующий год ради решения вопросов безопасности. В этом месяце компания привлекла 11 миллиардов долларов, достигнув оценки в 1,25 триллиона долларов.
Источники · 1
Текст подготовила языковая модель по материалам источников.
