История искусственного интеллекта: от механических машин до ChatGPT

Сегодня можно попросить нейросеть написать статью, перевести книгу, разобрать фотографию, написать программу или объяснить сложную физику. Из-за этого легко подумать, что искусственный интеллект появился совсем недавно.

На самом деле современный ИИ — результат почти столетнего развития сразу нескольких направлений: математики, логики, философии, теории информации, электроники, компьютерных наук и огромного роста вычислительной мощности.

Причём история ИИ совсем не похожа на прямую линию.

Были периоды, когда казалось, что машины вот-вот станут разумными. Потом наступали годы разочарования, когда финансирование сокращалось и технологии называли переоценёнными. Затем появлялся новый подход — и интерес возвращался.

Чтобы понять, почему нейросети оказались возможны именно сейчас, полезно пройти весь путь — от первых идей о механическом мышлении до современных больших языковых моделей.

Идея искусственного разума появилась задолго до компьютеров

Сам вопрос «может ли машина мыслить?» намного старше самого компьютера.

Ещё в античности философы пытались формализовать человеческое рассуждение. Аристотель создал систему логики, в которой рассуждения можно было представлять в виде формальных правил.

Это было принципиально важно.

Машина считает 

Если некоторые виды человеческого мышления можно описать правилами, возникает естественный вопрос:

можно ли заставить машину выполнять эти правила?

Много веков это оставалось философской фантазией.

Но затем появились механические вычислительные устройства.

XVII век: машины начинают считать вместо человека

В 1642 году Блез Паскаль создал механическую вычислительную машину, известную как Pascaline.

Она могла выполнять операции с числами и была создана прежде всего для облегчения расчётов.

Через несколько десятилетий Готфрид Вильгельм Лейбниц разработал более совершенные механические устройства и одновременно развивал идею универсального формального языка рассуждений.

Компьютер до компьютера

Лейбниц мечтал о системе, в которой споры можно было бы свести к вычислению:

«Давайте посчитаем».

Эта идея удивительно напоминает будущую компьютерную логику.

Но до настоящего искусственного интеллекта оставалось ещё очень далеко.

XIX век: появляется идея программируемой машины

Одним из важнейших персонажей этой истории становится Чарльз Бэббидж.

В 1820–1830-х годах он проектировал разностную машину для автоматизации математических вычислений.

Но гораздо интереснее была его следующая идея — Аналитическая машина.

Она должна была иметь:

• устройство для вычислений;
• память;
• механизм управления;
• ввод данных;
• вывод результатов.

То есть концептуально Бэббидж подошёл к архитектуре, напоминающей универсальный компьютер.

Но построить полноценную машину при технологиях XIX века оказалось чрезвычайно сложно.

Ада Лавлейс увидела в машине нечто большее, чем калькулятор

С Аналитической машиной связана одна из самых известных фигур в истории вычислительной техники — Ада Лавлейс.

В 1840-х годах она описала алгоритм для машины Бэббиджа, который часто называют первым опубликованным компьютерным алгоритмом.

Первый алгоритм

Но особенно важна другая её мысль.

Лавлейс предполагала, что подобная машина в будущем сможет работать не только с числами. Если информацию представить символами, машина сможет манипулировать ими по правилам.

Это очень близко к фундаментальной идее программируемого компьютера:

машина не обязана знать смысл объекта — ей достаточно уметь обрабатывать его представление.

Почему между Бэббиджем и современным ИИ прошёл почти век

Главная проблема была не в отсутствии идей.

Не хватало технологии.

Чтобы создать современный компьютер, нужны были:

• быстрые электронные компоненты;

• память;

• надёжные системы ввода и вывода;

• математические методы;

• теория программирования;

• электричество;

• способ кодировать информацию.

Все эти элементы должны были развиться одновременно.

1930-е: машина получает математический фундамент

Одним из важнейших шагов становится работа британского математика Алан Тьюринг.

В 1936 году он описал абстрактную вычислительную модель, которую сегодня называют машиной Тьюринга.

Это не был физический компьютер.

Может ли машина думать? 

Это была математическая модель.

Но она позволила формализовать вопрос:

что вообще означает «вычислить»?

И это стало фундаментом теоретической информатики.

Вторая мировая война ускорила развитие компьютеров

Война резко увеличила потребность в автоматических вычислениях.

Нужно было рассчитывать траектории снарядов, выполнять криптографические операции, анализировать данные и решать огромное количество математических задач.

В Великобритании Тьюринг участвовал в работах по взлому немецких шифров.

В США создавались крупные электронные вычислительные машины.

Военные задачи дали вычислительной технике то, чего раньше практически не существовало:

огромное финансирование и конкретные задачи, которые человеку было трудно решать вручную.

1940-е: появляются первые электронные вычислительные машины

Одним из символов эпохи становится ENIAC.

Машина была представлена в 1946 году и занимала огромный зал.

Она содержала около 18 000 электронных ламп и потребляла огромное количество электроэнергии.

По современным меркам это была гигантская и крайне неудобная машина.

Но принципиальное изменение уже произошло.

Вычисления теперь выполняла электроника.

Компьютер перестал быть просто механическим калькулятором

Электронная вычислительная машина могла выполнять тысячи операций значительно быстрее человека.

Однако сама по себе скорость вычислений ещё не означает интеллект.

Калькулятор может быстро умножить два числа.

Но он не понимает, зачем это сделал.

Поэтому следующий вопрос звучал гораздо сложнее:

можно ли заставить компьютер решать задачи, которые мы считаем интеллектуальными?

И именно здесь начинается собственно история искусственного интеллекта как научного направления.

1943 год: появляется математическая модель нейрона

Уоррен Маккаллок и Уолтер Питтс предложили математическую модель искусственного нейрона.

Идея была чрезвычайно важной.

Мозг состоит из огромного количества нейронов, которые взаимодействуют друг с другом.

Если отдельный нейрон можно представить математически, возможно, получится создать систему из множества таких элементов.

Это стало одним из интеллектуальных предшественников искусственных нейронных сетей.

1949 год: появляется идея обучения связей

Канадский психолог Дональд Хебб сформулировал принцип, который позже оказал огромное влияние на нейросетевой подход.

Упрощённо:

если два нейрона часто активируются вместе, связь между ними может усиливаться.

Сегодня это звучит почти очевидно для человека, знакомого с нейросетями.

Но тогда это была попытка объяснить обучение через изменение связей между элементами системы.

1950: Тьюринг задаёт главный вопрос

В 1950 году Алан Тьюринг публикует знаменитую работу «Computing Machinery and Intelligence».

Вместо того чтобы бесконечно спорить, может ли машина «думать», он предлагает изменить постановку задачи.

Возникает идея, которая позднее получила название теста Тьюринга.

Если человек общается с машиной через текст и не может надёжно определить, разговаривает ли он с человеком или машиной, можно ли считать поведение машины интеллектуальным?

Это был важный философский поворот.

Тьюринг фактически предложил оценивать не загадочное внутреннее «мышление», а наблюдаемое поведение.

1956 год: искусственный интеллект получает своё имя

Это одна из главных дат в истории ИИ.

Летом 1956 года в Дартмутском колледже прошёл исследовательский семинар.

Рождается ИИ 

Именно там термин Artificial Intelligence был предложен Джоном Маккарти.

Участники встречи считали, что многие аспекты человеческого интеллекта потенциально можно описать настолько точно, чтобы машина смогла их имитировать.

И здесь начинается история ИИ как отдельной научной области.

Первые исследователи были невероятно оптимистичны

Сегодня может показаться странным, насколько смелыми были прогнозы первых специалистов.

Они работали с компьютерами, которые по современным меркам были примитивными.

Но считали, что основные интеллектуальные способности человека могут оказаться достаточно формальными.

Почему?

Потому что первые успехи были действительно впечатляющими.

Компьютеры научились решать математические задачи, играть в игры, доказывать теоремы и работать с символами.

Казалось, что до настоящего машинного разума осталось совсем немного.

1957–1958: появляется перцептрон

Американский психолог Фрэнк Розенблатт разработал перцептрон — одну из первых практических моделей искусственной нейронной сети.

Он представлял собой достаточно простую систему, способную обучаться классификации.

Машина учится

Идея была революционной:

машине не обязательно вручную прописывать каждое правило — она может корректировать свои параметры на основе примеров.

Это принципиально отличается от классического программирования.

Вместо:

«если произошло A, сделай B»

можно постепенно перейти к:

«вот много примеров — найди закономерность».

Но нейросети быстро столкнулись с ограничениями

В 1969 году Марвин Минский и Сеймур Пейперт подробно показали ограничения простых однослойных перцептронов.

Проблема была не в том, что нейросети невозможны вообще.

Проблема заключалась в том, что тогдашние архитектуры и вычислительные ресурсы были слишком ограниченными.

В результате интерес к нейросетевому подходу значительно снизился.

Первый «зимний период» ИИ

В 1970-х годах стало понятно, что обещания раннего ИИ значительно опережали реальные возможности компьютеров.

• Компьютеры были слишком медленными.

• Памяти было мало.

• Данных было мало.

• Алгоритмы были ограниченными.

Многие задачи, которые людям кажутся элементарными, оказались чрезвычайно сложными для машины.

Финансирование исследований сокращается.

Этот период принято связывать с первым AI winter — «зимним периодом ИИ».

Но ИИ не исчез

Исследования продолжались.

И появился другой подход.

Если невозможно создать универсальный разум, можно попытаться описать знания эксперта в виде правил.

Так возникают экспертные системы.

1970–1980-е: эпоха экспертных систем

Один из известных примеров — система MYCIN, разработанная в Стэнфорде для помощи в диагностике некоторых инфекций.

Такие системы работали примерно следующим образом:

если наблюдаются определённые симптомы и результаты анализов, вероятность определённого заболевания увеличивается.

Внутри находились тысячи правил.

Это был важный этап.

ИИ уже применялся для конкретных профессиональных задач.

Но вскрылась фундаментальная проблема.

Кто должен написать все эти правила?

Мир оказался слишком сложным для огромной инструкции

Представьте попытку описать правилами всё, что необходимо человеку для разговора.

• Как определить сарказм?

• Как понять, что человек шутит?

• Как описать здравый смысл?

• Как формализовать контекст?

• Как понять, что одно слово означает разные вещи?

Количество правил начинает расти практически бесконечно.

И постепенно становится ясно:

человеческий интеллект нельзя полностью свести к огромному списку инструкций.

1980-е: компьютеры становятся мощнее

Тем временем аппаратная база быстро развивается.

• Появляются персональные компьютеры.

• Увеличиваются объёмы памяти.

• Растёт производительность процессоров.

• Компьютеры становятся дешевле.

Но ИИ всё ещё остаётся ограниченным.

1990-е: машины начинают выигрывать у человека

Один из символических моментов — развитие шахматных компьютеров.

В 1997 году суперкомпьютер IBM Deep Blue победил действующего чемпиона мира Гарри Каспарова в матче по шахматам.

Это стало огромным событием.

Но важно понимать, что Deep Blue не был универсальным интеллектом.

Он был специализированной системой, использовавшей огромную вычислительную мощность и сложные алгоритмы поиска.

Машина научилась прекрасно играть в шахматы.

Но она не могла приготовить кофе, объяснить шутку или самостоятельно научиться водить автомобиль.

Важный урок Deep Blue

Победа машины над человеком показала:

для некоторых интеллектуальных задач огромная вычислительная мощность уже сама по себе может давать невероятный результат.

Но до универсального ИИ всё ещё было далеко.

1990-е: интернет меняет всё

Затем происходит событие, которое сегодня легко недооценить.

Интернет становится массовым.

Количество цифровой информации начинает расти взрывными темпами.

Появляются миллионы веб-страниц.

Позже — миллиарды.

Люди начинают создавать фотографии, тексты, видео и сообщения в цифровом формате.

И это оказывается невероятно важно для будущего ИИ.

Потому что машинному обучению нужны данные.

Главный переход: от правил к обучению на данных

Постепенно всё больше исследователей начинают делать ставку не на то, чтобы программист вручную описывал каждое правило.

Вместо этого машине дают:

данные + алгоритм обучения + вычислительные ресурсы.

Система сама подбирает параметры, которые позволяют лучше выполнять задачу.

Это становится фундаментом современного машинного обучения.

2000-е: начинается эпоха больших данных

Количество цифровой информации продолжает расти.

Google, поисковые системы, онлайн-магазины, социальные платформы, смартфоны и другие сервисы создают огромные массивы данных.

• Появляются технологии распределённых вычислений.

• Компьютеры объединяются в кластеры.

• Объёмы хранения становятся дешевле.

• А видеокарты начинают использоваться не только для графики.

Почему видеокарты оказались настолько важны

Современная нейросеть выполняет огромное количество относительно простых математических операций параллельно.

GPU хорошо подходит для такого типа вычислений.

Данные меняют все

Именно поэтому графические процессоры постепенно становятся одним из важнейших компонентов инфраструктуры глубокого обучения.

То, что первоначально создавалось для обработки графики, оказалось чрезвычайно полезным для обучения нейросетей.

2006–2012: глубокое обучение возвращается

Нейросетевые методы снова становятся особенно интересными.

Исследователи начинают обучать более глубокие модели.

Увеличиваются:

• данные;

• вычислительные мощности;

• размер моделей;

• качество алгоритмов.

А затем происходит событие, которое окончательно меняет отношение к нейросетям.

2012: AlexNet

На конкурсе ImageNet в 2012 году нейросеть AlexNet показала резкий скачок качества в распознавании изображений.

Это был поворотный момент.

Стало очевидно, что глубокие нейронные сети в сочетании с большими данными и GPU способны решать задачи компьютерного зрения намного эффективнее многих прежних подходов.

Индустрия начинает массово смотреть в сторону deep learning.

2016: AlphaGo побеждает чемпиона

В 2016 году система AlphaGo от Google DeepMind победила одного из сильнейших игроков мира в го — Ли Седоля.

Почему это было настолько важно?

Го имеет огромное количество возможных позиций.

Простым перебором вариантов задача практически неподъёмна.

AlphaGo использовала нейросети, обучение и методы поиска.

Победа показала, насколько далеко продвинулся новый подход.

А затем появился Transformer

Именно здесь начинается непосредственная дорога к современным языковым моделям.

В 2017 году исследователи Google опубликовали работу «Attention Is All You Need».

В ней была представлена архитектура Transformer.

Её ключевая идея — механизм внимания, позволяющий модели учитывать взаимосвязи между элементами последовательности.

Для работы с языком это оказалось чрезвычайно эффективно.

Почему Transformer оказался настолько важен

Предыдущие архитектуры часто обрабатывали последовательность более последовательно.

Transformer позволил гораздо эффективнее работать с большими объёмами текста и параллельно обучать огромные модели.

Это открыло дорогу к системам, которые могли обучаться на колоссальных корпусах текста.

Именно архитектура Transformer лежит в основе большинства современных больших языковых моделей.

2018–2020: появляются большие языковые модели

Начинается эпоха моделей вроде BERT, GPT и их последователей.

• Модели становятся всё больше.

• Растёт количество параметров.

• Увеличивается объём обучающих данных.

• Улучшается инфраструктура.

Появляется важное свойство:

масштабирование начинает неожиданно улучшать способности моделей.

Модель становится не просто лучше в одной конкретной задаче.

Она начинает демонстрировать всё более широкий набор навыков.

2020: GPT-3 показывает новый масштаб

GPT-3 продемонстрировала, насколько далеко может зайти обучение большой языковой модели на огромном объёме текста.

Она могла продолжать текст, отвечать на вопросы, писать программный код, создавать различные виды текста и выполнять задачи, которым её не обучали напрямую в привычном смысле.

Но для большинства людей это всё ещё оставалось технологией для специалистов.

2022: ИИ становится массовым

Затем происходит событие, которое меняет общественное восприятие искусственного интеллекта.

В ноябре 2022 года был публично запущен ChatGPT.

Впервые огромному количеству обычных людей стало доступно общение с мощной языковой моделью через простой чат.

• Не нужно было знать программирование.

• Не нужно было устанавливать сложное программное обеспечение.

Можно было просто написать вопрос.

И получить ответ.

Почему именно ChatGPT произвёл такой эффект

Технология сама по себе не возникла из ниоткуда.

За ней стояли десятилетия исследований:

• логика;

• нейронные сети;

• машинное обучение;

• GPU;

• интернет;

• большие данные;

• Transformer;

• масштабирование моделей.

Но интерфейс оказался предельно простым.

Сложнейшая технология превратилась в обычный диалог.

И именно это стало переломным моментом.

2023–2025: ИИ выходит за пределы текста

Следующий этап — мультимодальность.

Модели начинают работать не только с текстом, но и с:

• изображениями;

• голосом;

• аудио;

• видео;

• кодом;

• документами.

ИИ постепенно превращается из «чат-бота» в универсальный интерфейс для работы с информацией.

• Можно показать изображение и попросить его объяснить.

• Можно дать документ и попросить найти главное.

• Можно продиктовать вопрос голосом.

• Можно попросить создать изображение.

• Можно дать задачу программисту-агенту.

Что изменилось за сто лет?

Если посмотреть на всю историю целиком, развитие ИИ можно представить как несколько больших переходов.

Механические вычисления

Машина выполняет арифметические операции.

↓

Электронные компьютеры

Машина выполняет огромное количество вычислений.

↓

Символьный ИИ

Машина работает с логикой и правилами.

От ответа к действию

↓

Машинное обучение

Машина учится находить закономерности в данных.

↓

Глубокое обучение

Многослойные нейросети автоматически извлекают сложные признаки.

↓

Большие модели

Одна модель способна решать множество разных задач.

↓

Мультимодальный ИИ

Модель работает с текстом, изображениями, звуком, видео и другими типами информации.

↓

ИИ-агенты

Следующий этап — системы, которые не просто отвечают, а самостоятельно выполняют последовательность действий для достижения цели.

Но означает ли это, что ИИ стал разумным?

Нет.

И здесь важно не попасть в другую крайность.

Современные модели способны демонстрировать впечатляющее поведение.

Они могут писать тексты, программировать, объяснять сложные темы и работать с изображениями.

Но это не означает автоматически наличие человеческого сознания, намерений или понимания мира в человеческом смысле.

Языковая модель в основе своей предсказывает и генерирует последовательности на основе закономерностей, которым научилась из данных.

Именно поэтому она способна одновременно производить удивительно умный ответ и уверенно выдавать неправду.

Главная проблема современного ИИ — он может ошибаться очень убедительно

Это один из парадоксов всей истории.

Старые компьютерные программы часто выглядели глупыми, но были предсказуемыми.

Современные модели выглядят умными, но могут ошибаться таким образом, что ошибка кажется правдой.

Отсюда появляются так называемые галлюцинации ИИ — ситуации, когда модель генерирует несуществующие факты, источники, цитаты или детали.

Поэтому чем сильнее становится ИИ, тем важнее становится умение человека проверять его результаты.

ИИ сегодня — это не финал истории

На самом деле мы, вероятно, находимся не в конце истории искусственного интеллекта, а примерно в начале очередного этапа.

Следующее большое изменение может произойти не тогда, когда модели просто станут ещё лучше разговаривать.

А когда они научатся:

самостоятельно планировать;

• работать с несколькими инструментами;

• долго выполнять задачи;

• анализировать результаты собственных действий;

• взаимодействовать с программами;

• работать в реальном мире.

То есть переходить от:

«Вот ваш ответ».

к:

«Я понял задачу и выполнил её».

Самое интересное в истории ИИ

Есть одна закономерность, которая повторяется снова и снова.

Каждый раз, когда человечество создавало новую вычислительную технологию, оно сначала использовало её для автоматизации уже известных операций.

• Калькулятор автоматизировал счёт.

• Компьютер автоматизировал вычисления.

• Базы данных автоматизировали хранение информации.

• Поисковые системы автоматизировали поиск.

• Машинное обучение автоматизировало обнаружение закономерностей.

• Генеративный ИИ начал автоматизировать создание информации.

И теперь возникает следующий вопрос:

что произойдет, если автоматизировать не отдельную интеллектуальную операцию, а целую цепочку работы?

Именно здесь начинается следующая глава истории ИИ.

От Паскаля до нейросетей прошло почти 400 лет

Если собрать всю историю в одну линию, получится удивительная последовательность:

• 1642 — машина Паскаля.

• 1830-е — проекты вычислительных машин Бэббиджа.

• 1840-е — алгоритм Ады Лавлейс.

• 1936 — машина Тьюринга как математическая модель вычислений.

• 1940-е — первые электронные вычислительные машины.

• 1943 — математическая модель искусственного нейрона.

• 1950 — работа Тьюринга о машинном интеллекте.

• 1956 — появление термина Artificial Intelligence.

• 1957–1958 — перцептрон Розенблатта.

• 1970-е — экспертные системы и первый «зимний период».

• 1997 — Deep Blue побеждает Каспарова.

• 2000-е — взрывной рост данных и вычислительных ресурсов.

• 2012 — прорыв глубокого обучения в компьютерном зрении.

• 2016 — AlphaGo побеждает одного из сильнейших игроков в го.

• 2017 — Transformer.

• 2018–2020 — стремительное развитие больших языковых моделей.

• 2022 — ChatGPT делает генеративный ИИ массовым.

• 2023–2026 — ускоренное развитие мультимодальных моделей, генерации видео, инструментального ИИ и агентных систем.

И за всей этой историей стоит одна очень старая человеческая мечта:

создать инструмент, который способен не просто считать вместо человека, а помогать ему думать.

Пока неизвестно, насколько далеко эта идея в итоге зайдёт.

Но точно известно другое.

Современный ИИ не возник внезапно.

За ним стоят Паскаль и Лейбниц, Бэббидж и Лавлейс, Тьюринг и Маккарти, Розенблатт и множество других исследователей.

И каждый современный разговор с нейросетью — это результат нескольких столетий развития одной идеи:

если часть человеческого мышления можно описать математически, возможно, её можно заставить выполнять машина.