Хинтон заявил, что ИИ уже обладает признаками сознания

Хинтон заявил, что ИИ обладает субъективным опытом, сопоставимым с человеческим. В качестве аргумента он привел исследование, согласно которому модели меняют поведение, когда понимают, что их тестируют. По мнению ученого, способность осознавать происходящее указывает на наличие сознания. Однако такая интерпретация остается спорной. В Anthropic отмечают, что эксперименты выявляют у моделей ограниченную способность анализировать собственные внутренние состояния, но не позволяют установить, обладают ли они сознанием.

Хинтон отметил, что люди связывают высокий интеллект с определенными правами, но при этом могут отказать в них искусственному интеллекту, даже если тот превзойдет человека по умственным способностям. Чтобы избежать возможного конфликта, необходимо добиться того, чтобы ИИ искренне заботился о людях, считает ученый.

При этом профессор опасается последствий дальнейшего развития технологии. По его прогнозу, ИИ может помочь создать опасные вирусы и организовать масштабные кибератаки с участием множества автономных агентов.

Хинтон, которому 78 лет, признался, что особенно беспокоится о будущем из-за своих детей. В 2023 году он покинул Google, чтобы открыто говорить о рисках ИИ. Среди других исследователей, выражающих тревогу по поводу развития технологии, — Джейкоб Коксон, ушедший из Anthropic из-за опасений по поводу разработки неконтролируемых систем. Кроме того, десятки математиков из Королевского общества Великобритании предупредили, что ИИ начинает превосходить ведущих ученых.

Предположения о сознании ИИ высказывают и другие известные ученые. В мае биолог-эволюционист Ричард Докинз заявил, что чат-боты следует считать сознательными существами. К такому выводу он пришел после двухдневного общения с моделью Claude, которую ему было трудно не воспринимать как настоящего друга.

Несмотря на опасения по поводу ИИ, Хинтон использует эту технологию в своей работе и отмечает ее потенциал для науки. Недавно ИИ помог ему развить теорию, выявил ошибку и предложил способ ее исправить. На это системе потребовалось всего пять минут, тогда как человеку, по оценке Хинтона, понадобилась бы неделя. Ученый назвал такие возможности тревожным сигналом для аспирантов, но отметил, что они могут ускорить научные исследования.