Технологические компании ищут ясности в достижении общего искусственного интеллекта

Гонка за искусственным общим интеллектом (AGI) накаляется среди технологических гигантов, таких как Amazon, Google, Meta* и Microsoft, а также таких организаций, как OpenAI. AGI, концепция машин, столь же умных, как и люди, в широком спектре задач, стала главным приоритетом для этих компаний. Тем не менее, ведущие ученые в области ИИ выразили обеспокоенность по поводу потенциальных экзистенциальных рисков, связанных с неконтролируемыми агентами ИИ с навыками долгосрочного планирования. Сам термин AGI до сих пор не имеет четкого определения, с различными мнениями о том, что он означает. Некоторые, как Джеффри Хинтон, предпочитают термин суперинтеллект для ОИИ, которые превосходят человеческие возможности.

В то время как достижения в области методов авторегрессии ИИ привели к впечатляющим чат-ботам, настоящий ОИИ потребует технологий, которые могут работать так же хорошо, как и люди, в различных задачах, таких как рассуждение, планирование и обучение на основе опыта. В сообществе ИИ продолжаются дебаты о том, как измерять и классифицировать ОИИ, при этом некоторые выступают за усилия по достижению консенсуса. Например, OpenAI поручил своему некоммерческому совету директоров определить, достигли ли их системы ИИ ОИИ.

Потенциальная опасность ОИИ была подчеркнута в недавнем исследовании, опубликованном в Science под руководством исследователя Майкла Коэна. В исследовании рассматриваются риски, связанные с системами ИИ, способными к долгосрочному планированию, и потенциальная угроза, которую они представляют, если не регулируются должным образом. Коэн подчеркнул важность принятия правительствами упреждающих мер для решения этих проблем, поскольку действующего законодательства может быть недостаточно для снижения рисков, связанных с развитием ОИИ. По мере того, как продвижение ОИИ продолжает развиваться, потребность в этических и нормативных основах, регулирующих его развитие, становится все более актуальной.