http://www.ras.ru/news/shownews.aspx?id=b8da5534-67fd-402e-9cad-876b921cbc5a&print=1© 2024 Российская академия наук
23 ноября 2021 г. состоялось заседание президиума РАН, на котором обсуждались вопросы безопасности искусственного интеллекта. Директор Федерального исследовательского центра «Информатика и управление» РАН, академик РАН Игорь Соколов посмотрел на эту проблему с точки зрения математики. Под этим углом зрения многие вопросы выглядят надуманными, а внимание к ним – преувеличенным.
«В 1677 году Ньютон написал Лейбницу зашифрованное письмо, – рассказал Игорь Соколов. – Оно расшифровывается до сих пор, расшифровывается по-разному. Основная мысль такая: весь мир описывается дифференциальным уравнением. И это правда. Все успехи научно-технологического прогресса последних 350 лет не в последнюю очередь достигнуты благодаря тому, что мы научились моделировать процессы и объекты окружающего мира этим инструментом – дифференциальным исчислением – и находить приемлемые решения».
По словам Игоря Соколова, к 1950-м годам, когда были созданы электронные вычислительные машины, появилась возможность за приемлемое время с приемлемой точностью решить любое дифференциальное уравнение цифровыми методами. Но со временем стали появляться задачи, связанные с обработкой огромных массивов данных, например – результатов астрономических наблюдений. Кроме того выяснилось, что есть процессы и объекты, которые не описываются дифференциальными уравнениями. Например, текст на любом человеческом языке, где описывается огромный объем знаний.
«Встала проблема извлечения знания из большого объема данных, – рассказал академик Соколов. – Эта проблема породила новую математику, которая и получила название искусственного интеллекта. Искусственный интеллект – это методы, которыми решаются те задачи, для которых отсутствуют или неприемлемы по временным ограничениям известные алгоритмы решения».
Академик Соколов подчеркнул, что теоретическое поле этих методов очень обширно и не ограничивается искусственными нейронными сетями и машинным обучением. Тем не менее, когда говорят об искусственном интеллекте, в 99 % случаев сегодня подразумевается имеют это.
По словам Игоря Соколова, нейронная сеть – это лишь матричное уравнение. И этот математический аппарат работал уже в 1950-е годы и назывался, да и сейчас называется, фильтрация – фильтры Калмана, фильтры Пугачева и т.п. Эта математика использовалась в управлении сложными техническими устройствами, например – самолетами, просто ее тогда не называли искусственным интеллектом, потому что число параметров измерялось десятками, а сейчас топовые нейронные сети содержать боле чем 500 млрд параметров.
«Это <направление>выстрелило. Что выстрелит завтра, мы не знаем, предупреждает ученый. – Огромное количество направлений относится научным сообществом к искусственному интеллекту. Мы же сосредоточены на искусственных нейронных сетях».
Что касается вопросов безопасности, то, по словам академика Соколова, с точки зрения математики вообще нет никакого непонимания искусственного интеллекта.
«Искусственный интеллект – это всего лишь новая вычислительная процедура, – утверждает Игорь Соколов. – <Обсуждаются> юридические вопросы, моральные вопросы, этические вопросы и так далее. А мы когда-нибудь задавали себе вопрос, а есть ли в методе Рунге-Кутты какая-то этическая сторона? Никогда не задавали. Почему сейчас себе этот вопрос задаем? Ну, появилась непривычная вычислительная процедура. Привыкнем! Так же, как мы привыкли к тому, что дифференциальные уравнения дают нам какой-то ответ и мы на этом ответе строим все что угодно».
Редакция сайта РАН