Человечество может исчезнуть из-за ИИ, предупредил его создатель

К исчезновению человечества может привести потеря контроля над искусственным интеллектом, заявил британско-канадский когнитивный психолог и специалист по теории вычислительных машин Джеффри Хинтон, получивший в 2024 году Нобелевскую премию по физике и считающийся одним из "крестных отцов" ИИ, пишет британская газета Times.

Джеффри Хинтон ранее заявлял, что у ИИ он лично наблюдал признаки самосознания, присущего человеку.

По его словам, утрата контроля над ИИ, который превосходит людей по интеллекту, может иметь катастрофические последствия и привести даже к исчезновению человечества. Он отметил, что у компаний на данный момент нет возможности безопасно разрабатывать "суперинтеллект" - искусственную систему, интеллект которой существенно превосходит человеческий. Ученый считает, что люди были бы очень глупы, если бы начали сейчас разрабатывать суперинтеллект, когда нет научного консенсуса о том, что можно разрабатывать его подконтрольно и безопасно. 

Джеффри Хинтон принимал участие в создании искусственной нейронной сети - машины Больцмана - и заложил основы технологии глубинного обучения, на базе которой работают чат-боты и ИИ. За это его прозвали одним из "крестных отцов" ИИ. Он удостоился Нобелевской премии по физике в 2024 году за работы в области искусственных нейросетей и применения их для машинного обучения.

Вместе с тем Верховный комиссар ООН по правам человека Фолькер Тюрк на 63-й сессии Совета по правам человека заявил, что ИИ может превратиться в "экзистенциальную угрозу человечеству". Он призвал приложить все возможные усилия для обеспечения надежных, незыблемых гарантий безопасности в сфере ИИ, пока не стало еще слишком поздно. 

Тюрк отметил, что только горстка людей обладает "практически неограниченной властью над ИИ". Он добавил, что как минимум необходимо, чтобы страны, где базируются системы ИИ, и участники цепочек их поставок договорились о соблюдении определенных "красных линий". Он допустил возможность того, что системы ИИ станут настолько мощными, что разработчики больше не смогут их контролировать.

Фото ТЕЛЕПОРТ.РФ

Автор: Редакция ТЕЛЕПОРТ.РФ

При использовании материалов активная индексируемая гиперссылка на сайт ТЕЛЕПОРТ.РФ обязательна.