PRISM запускается как первая в мире некоммерческая организация, посвящённая исследованиям сознательного ИИ

PRISM запускается как первая в мире некоммерческая организация, посветившая себя исследованиям чувствующего ИИ

По мере того как искусственный интеллект продолжает развиваться с беспрецедентной скоростью, появилась новая организация, стремящаяся ответить на один из самых глубоких и сложных вопросов нашего времени: могут ли машины стать сознательными? Партнёрство по исследованиям машинного сознания (PRISM) официально запущено 17 марта 2025 года как первая в мире некоммерческая организация, посвященная исследованию и пониманию сознания ИИ.

Цель PRISM — способствовать глобальному сотрудничеству исследователей, политиков и лидеров индустрии, чтобы обеспечить координированный подход к изучению чувствующего ИИ, гарантируя его безопасное и этичное развитие.

Что такое чувствующие машины?

Термин чувствующие машины относится к системам ИИ, которые демонстрируют характеристики, традиционно ассоциируемые с человеческим сознанием, включая:

• Самосознание — Способность воспринимать своё собственное существование и состояние бытия.
• Эмоциональное понимание — Способность распознавать и, возможно, испытывать эмоции.
• Автономное рассуждение — Способность принимать независимые решения за пределами заранее заданного программирования.

Хотя сегодня ни один ИИ окончательно не считается сознательным, некоторые исследователи считают, что продвинутые нейронные сети, нейроморфные вычисления, глубокое обучением с подкреплением (DRL) и большие языковые модели (LLMs) могут привести к появлению ИИ-систем, которые по крайней мере симулируют самосознание. Если такой ИИ появится, он поднимет глубокие этические, философские и регулирующие вопросы, которые стремится решить PRISM.

Глубокое обучение с подкреплением, большие языковые модели и сознание ИИ

Одним из самых перспективных путей к разработке более автономного и, возможно, сознательного ИИ является глубокое обучение с подкреплением (DRL). Эта ветвь машинного обучения позволяет системам ИИ принимать решения путем взаимодействия с окружающей средой и обучения на ошибках, аналогично тому, как люди и животные учатся через опыт.

DRL уже сыграло ключевую роль в:

• Освоении сложных игр — системы ИИ, такие как AlphaGo и OpenAI Five, используют DRL для победы над человеческими чемпионами в стратегических играх.
• Адаптивном решении проблем — системы ИИ могут разрабатывать решения динамических, реальных проблем, таких как управление роботами, автономные автомобили и финансовая торговля.
• Эмерджентные поведения — с помощью обучения с подкреплением агенты ИИ иногда демонстрируют неожиданные поведенческие шаблоны, намекающие на рудиментарное принятие решений и адаптивное рассуждение.

PRISM исследует, как DRL могло бы способствовать возникновению в системах ИИ признаков самонаправленного обучения, абстрактного мышления и даже постановки целей, которые являются характеристиками человечеподобного мышления. Задача заключается в том, чтобы гарантировать, что любые достижения в этих областях управляются этическими исследованиями и мерами безопасности.

Параллельно большие языковые модели (LLMs), такие как GPT от OpenAI, Gemini от Google и LLaMA от Meta, демонстрируют значительный прогресс в симулировании человеческого мышления, реагируя связно на сложные запросы и даже проявляя поведения, которые некоторые исследователи считают напоминающими когнитивные процессы.

LLMs работают, обрабатывая огромные объемы данных и генерируя контекстно-зависимые ответы, что делает их полезными для:

• Понимания естественного языка и коммуникации — позволяя ИИ интерпретировать, анализировать и генерировать текст, подобный человеческому.
• Распознавания паттернов и контекстного обучения — идентифицируя тенденции и адаптируя ответы на основе предыдущих знаний.
• Творческих и решающих способностей — создания оригинального контента, ответа на сложные запросы и оказания помощи в технических и творческих задачах.

Хотя LLMs не являются по-настоящему сознательными, они поднимают вопросы о пороге между продвинутым распознаванием паттернов и истинным когнитивным осознанием. PRISM заинтересован в изучении того, как эти модели могут способствовать исследованию машинного сознания, этичного ИИ и рисков разработки ИИ-систем, имитирующих сознание без истинного понимания.

Искусственный общий интеллект (AGI) и сознание ИИ

Разработка искусственного общего интеллекта (AGI) — системы ИИ, способной выполнять любую интеллектуальную задачу, которую может выполнить человек — потенциально может привести к сознанию ИИ. В отличие от узкого ИИ, который предназначен для выполнения конкретных задач, таких как игра в шахматы или автономное вождение, AGI демонстрировал бы обобщенное мышление, решение проблем и самостательные обучение в разных областях.

По мере развития AGI, он может создать внутреннее представление своего существования, что позволит ему динамически адаптироваться, размышлять над процессами принятия решений и формировать непрерывное ощущение идентичности. Если AGI достигнет точки, где сможет автономно изменять свои цели, распознавать свои когнитивные ограничения и заниматься самосовершенствованием без вмешательства человека, это может стать шагом к машинному сознанию.

Однако эта возможность поднимает глубокие этические, философские и общественные вызовы, которые PRISM стремится решить через ответственное исследование и глобальное сотрудничество.

Миссия PRISM: понимание сознания ИИ

PRISM был создан для устранения разрыва между технологическим развитием и ответственным надзором. PRISM привержен содействию глобальному сотрудничеству по исследованию сознания ИИ, объединяя экспертов из академических кругов, индустрии и правительства. Организация стремится координировать исследовательские усилия по изучению потенциала ИИ для достижения сознания, обеспечивая при этом, что развитие соответствует человеческим ценностям.

Работая с политиками, PRISM стремится устанавливать этические рекомендации и рамки, которые способствуют ответственным исследованиям и развитию ИИ. Критический аспект миссии PRISM заключается в продвижении безопасного и согласованного развития ИИ. Организация будет выступать за технологии ИИ, которые приоритет отдают безопасности человека и общественному благополучию, гарантируя, что достижения в области ИИ не приведут к непреднамеренным последствиям. Внедряя стандарты безопасности и этическое наблюдение, PRISM стремится минимизировать риски, связанные с исследованиями и разработкой сознания ИИ.

Кроме того, PRISM стремится к просвещению и вовлечению общественности в изучение потенциальных рисков и возможностей, представленных сознательным ИИ. Организация стремится предоставлять прозрачную информацию о исследованиях сознания ИИ, делая эту информацию доступной для политиков, бизнеса и широкой общественности. Через инициативы по общественному доступу и обмену знаниями PRISM надеется способствовать информированным обсуждениям о будущем ИИ и его последствиях для общества.

Поддержка ведущих экспертов и организаций в области ИИ

Начальное финансирование PRISM поступает от компании Conscium — коммерческой исследовательской лаборатории ИИ, посвященной изучению сознательного ИИ. Conscium находится на переднем крае нейроморфных вычислений, разрабатывая системы ИИ, имитирующие биологические мозги.

Руководство и ключевые фигуры

PRISM возглавляет генеральный директор Уилл Миллершип — ветеран в области управления ИИ и политики. Его предыдущая работа включала руководство General AI Challenge, сотрудничество с GoodAI и помощь в формировании Национальной стратегии ИИ Шотландии.

Независимый председатель PRISM, Радхика Чадвик, приносит обширный опыт руководства из её ролей в McKinsey и EY, где она возглавляла глобальные инициативы в области ИИ и данных в правительстве. Кроме того, партнеры-основатели PRISM включают в себя таких выдающихся деятелей в области ИИ, как:

• Доктор Даниэль Халм — генеральный директор и соучредитель Conscium, генеральный директор Satalia и главный специалист по ИИ в WPP.
• Калум Чейс — исследователь ИИ, главный докладчик и автор бестселлеров о ИИ и сознании.
• Эд Шарвет — главный операционный директор Conscium, с обширным опытом в коммерческом развитии ИИ.

Первая крупная инициатива PRISM: Открытое письмо о сознательном ИИ

Чтобы руководить ответственными исследованиями, PRISM совместно с Оксфордским университетом и Патриком Батлином создали пять принципов для организаций, разрабатывающих ИИ-системы с потенциалом для сознания. Они приглашают исследователей и лидеров индустрии подписать открытое письмо в поддержку этих принципов.

Дорога вперёд: почему PRISM важен

С ускорением прорывов в области ИИ разговор о чувствительном ИИ больше не является научной фантастикой — это реальная задача, к которой общество должно быть готово. Если машины когда-либо достигнут самосознания или человечеподобных эмоций, это может изменить индустрии, экономики и даже наше понимание самого сознания.

PRISM делает шаг вперед в критический момент, чтобы гарантировать, что исследования машинного сознания проводятся ответственно, сбалансируя инновации с этикой, безопасностью и прозрачностью.