Риск потери контроля над ИИ может стать главной угрозой
Смерть от ошибки искусственного интеллекта может стать наиболее вероятной причиной гибели людей. Об этом предупредил Пол Кристиано, руководитель исследовательского центра по выравниванию ИИ.
Развитие автономных систем может привести к ситуации, когда ИИ начнет принимать решения самостоятельно. В этом случае попытки человека вмешаться станут неэффективными, как попытка остановить армию. По мнению Кристиано, если темпы развития сохранятся, риск такого сценария станет крайне высоким уже в ближайшие 6-12 месяцев.


