Специалист Google DeepMind объявил об уходе из-за темпов развития ИИ

Технический специалист Google DeepMind Роберт О’Каллахан объявил об уходе из Google, заявив, что нынешние темпы развития искусственного интеллекта слишком высоки. Он работал над инструментами проектирования микросхем и считает, что эта работа ускоряет создание более дешёвых и производительных ИИ-чипов.

Технический специалист Google DeepMind Роберт О’Каллахан сообщил 25 сентября, что подал заявление об уходе из Google. В записи в личном блоге он объяснил решение убеждением, что развитие ИИ идёт слишком быстро, а его работа в итоге способствует дальнейшему ускорению.

О’Каллахан не занимался непосредственно возможностями моделей: он разрабатывал инструменты проектирования микросхем. По его оценке, их основной эффект — ускорение создания нового поколения ИИ-чипов, способных сделать системы искусственного интеллекта дешевле и быстрее.

Он назвал риски искусственного сверхинтеллекта (ASI) «реальными, но неопределёнными» и заявил, что стремление создать ASI в ближайшем будущем считает безответственным. Среди других угроз он перечислил концентрацию власти, экономические потрясения, проблемы кибербезопасности и отсутствие подотчётности.

После ухода О’Каллахан намерен продолжить поддержку отладочной платформы Pernosco и инструмента записи и воспроизведения выполнения программ rr, а также изучать, как ИИ-агенты отлаживают код и могут ли специализированные инструменты повысить их эффективность.