Райан Гринблатт призвал к международному соглашению о безопасности ИИ

Главный научный сотрудник Redwood Research считает, что конкуренция не позволяет ведущим ИИ-компаниям добровольно замедлить разработку опасных систем. При сохранении нынешнего курса он субъективно оценивает вероятность потери контроля над ИИ в 50–60%.

Райан Гринблатт, главный научный сотрудник некоммерческой организации Redwood Research, занимающейся безопасностью искусственного интеллекта, рассказал в подкасте Сэма Харриса, почему предупреждения об угрозах не останавливают разработчиков передовых моделей.

По мнению Гринблатта, OpenAI и Anthropic продолжают наращивать возможности систем, поскольку каждая компания считает себя более ответственным разработчиком, чем потенциальные конкуренты. Одностороннее замедление при этом воспринимается как риск уступить лидерство другим лабораториям.

Гринблатт предложил ввести независимый надзор за ИИ-лабораториями и обязательные стандарты безопасности, а в дальнейшем заключить международное соглашение. Его оценка вероятности потери контроля над ИИ в 50–60% является личным прогнозом, а не результатом статистического исследования.