Google и DeepMind запускают институт безопасности общего ИИ

Создание института направлено на развитие безопасного подхода к общему искусственному интеллекту, его применению и социальным последствиям. Об этом сообщает ТАСС.

Компания DeepMind, которая является частью Google, объявила о создании института, занимающегося исследованием безопасных путей развития общего искусственного интеллекта (AGI), обладающего человеческим уровнем интеллекта.

По информации с сайта DeepMind Institute (DMI), "институт будет способствовать смелым идеям о безопасном развитии AGI, его полезном использовании и влиянии на общество. Мы уже наблюдаем за последствиями мощного ИИ для кибербезопасности и биологических угроз, и существует риск утраты контроля над саморазвивающимися системами".

Институт станет площадкой для сотрудников Google и DeepMind, а также для ученых со всего мира, которые смогут делиться инновационными и тщательно проработанными идеями о будущем с AGI.

Дарио Амодеи, директор компании Anthropic, 12 сентября опубликовал статью, призывающую замедлить развитие продвинутых ИИ-моделей. Он заявил, что координированное замедление позволит компаниям получить дополнительное время для предотвращения серьезных ошибок. С его мнением согласились Илон Маск, основатель SpaceX, и Сэм Альтман, директор OpenAI.