Главная проблема современных AI – это полное отсутствие метакогнитивных навыков, то есть неумение разбираться с собственным мышлением. В узком смысле: нейросети пока ещё не научены работать со своей архитектурой как с абстрактным объектом. Поэтому и проектированием искусственных мозгов пока ещё занимаются люди.
Сегодня даже продвинутые нейросети – всего лишь числовые молотилки, которые воспринимают миллионы признаков и находят в них тысячи выученных закономерностей. Они виртуозно отличают котёнка от щеночка на фотографии или хороший ход от плохого в шахматной партии. Но не могут сказать ничего содержательного ни о животных, ни о настольных играх. Если подсунуть им фотографию с уточкой или запретить рокировки, то железные мозги окажутся беспомощными, пока специальный человек не адаптирует их архитектуру к новой задаче.
А ведь с тем, что недоступно роботам, справляется и трёхлетний ребёнок.
Автономная концептуализация – встраивание новых знаний в единую систему связанных понятий. Если ребёнок, различающий кошечек и собачек, впервые увидит уточку, он тоже может решить, что «это такая киса». Но когда его поправят, он уже сам, без помощи нейрохирурга, создаст в голове новый концепт и сможет его использовать. Нейросетям в такой ситуации потребуется расширение конфигурации и переобучение выходных слоёв.
Извлечение имплицитного знания – синтез полезных понятий из массива выученных закономерностей и рассуждение о моделях принятия решений. Спросите ребёнка – как он отличает птичку от кошечки, и он расскажет про клювик и крылышки. В скрытых слоях нейросети тоже содержится какое-то знание о групповых признаках различаемых объектов, но это знание никак не осознаётся самой нейросетью и потому остаётся для неё трансцендентальным.
Усвоение эксплицитного знания – анализ текстовых моделей и приобретение новых знаний без предъявления примеров. Так, ребёнку можно рассказать, что тигр – это «огромный полосатый котик», после чего он сможет найти нужную клетку в зоопарке. И вообще, люди получают значительные объёмы знаний именно из текстов. Для нейросетей же такой способ пока недоступен, хотя бы из-за отсутствия единого языка для их общения.
Конечно, пока роботы тренируются на кошечках, все эти проблемы выглядят незначительными. Но когда робот-водитель попадает в аварию, то ситуация резко меняется. Тогда невозможность выяснить «почему же робот принял неверное решение?» расстраивает многих. Источник ошибки может оказаться неожиданным – например, как у Станислава Лема в повести «Ананке» (однако же, 1971 год). А если причина и найдётся, то через какое место втолковать железке правильную модель поведения? Ведь даже мелкое изменение формальных правил дорожного движения сразу изнулит миллионы учебных эпох и обесценит весь корпус тренировочных данных.
Но не всё так печально. Ведь любая проблема – это точка будущего прорыва. Зайчатки когнитивных функций видны в концепциях Meta Learning и Transfer Learning, а также в композициях рекуррентных сетей с генеративными (вроде C-RNN-GAN и S-LSTM-GAN). Конечно, возможности по самообучению пока что приходится прописывать вручную. Зато уже через 2-3 года всё это может оформиться в ещё один стандартный «метакогнитивный слой» платформы в технологическом стеке AI/ML.
Хорошо, что проблема метакогниции явно осознаётся AI-сообществом. Это видно по многочисленным публикациям о «Metacognition AI» и поиску новых архитектур вроде «Meta-cognitive Neural Network (McNN)», «Meta-cognitive Extreme Learning Machine (McELM)», «Metacognitive Octonion-valued Neural Network (Mc-OVNN)» и т.п.
Прорыв на метакогнитивном фронте сразу запустит цепную реакцию самостоятельной эволюции от «узкоспециализированных интеллектов» AI к «универсальному разуму» AGI. Это значит, что технологическая сингулярность совсем рядом. Поэтому внимательно следим за новостями по «Meta-AI» и уже разучиваем фанчир: Le AI est mort, vive le AGI!