Учёные из Йоркского университета обнаружили серьёзный недостаток в моделях искусственного интеллекта, поставив под сомнение широко распространённое мнение о том, что алгоритмы машин работают аналогично человеческому мозгу. Хотя искусственные нейронные сети долгое время считались лучшими моделями когнитивной системы человека, новое исследование показывает, что их внутренние стратегии не полностью соответствуют принципам функционирования мозга приматов.
Модели ИИ всё чаще используются в клинических исследованиях для изучения человеческого поведения, включая разработку методов лечения аутизма и посттравматического стрессового расстройства (ПТСР). Если модель воспринимает мир иначе, чем человек, её применение в экспериментах может быть опасным.
Что говорится в исследовании?
До настоящего времени учёные тестировали ИИ в одностороннем порядке, наблюдая, насколько эффективно программа может предсказывать реакции человеческого мозга. Однако исследователи из Йоркского университета логически перевернули этот подход.
Их теория основана на предположении, что если ИИ действительно является цифровой копией человеческого мозга, то связь должна быть двунаправленной. Иными словами, наблюдая за активностью нашего мозга, мы должны быть способны точно определить, какие операции выполняются внутри модели ИИ.
Чтобы проверить эту теорию, исследователи провели масштабный эксперимент, используя более 1600 различных типов изображений — от реальных фотографий животных до схематических рисунков и художественных вариаций.
Исследование показало, что, хотя ИИ относительно хорошо объясняет поведение человеческих нейронов, человеческий мозг не может с такой же точностью предсказывать внутренние вычисления ИИ. Это указывает на то, что сходство между ними носит лишь поверхностный характер, а сами программы работают на совершенно иных принципах.
В конечном итоге исследование подтвердило, что современные системы ИИ обрабатывают визуальную информацию с использованием стратегий, которые природа и человеческая эволюция вовсе не применяют. Это открытие имеет критическое значение: если ИИ воспринимает мир иначе, чем мы, его использование в медицинских исследованиях или психологических экспериментах может приводить к ошибочным выводам. В настоящее время учёные работают над тем, чтобы привести эти программы в большее соответствие с реальными биологическими принципами работы мозга.
Исследователи уже разработали специализированные инструменты тестирования, которые помогут разработчикам улучшить модели ИИ. Цель — создать искусственный интеллект, максимально совместимый с человеческим мозгом. Это особенно важно для моделирования нейротипичного мозга, что служит основой для будущих медицинских исследований.
