Сквозь время

ИИ: от символов до агентов

Вся история искусственного интеллекта: правила, чат-боты, нейросети, GPT, лаборатории, AGI и ASI, и что из этого следует завтра.

Курс для тех, кто пользуется ИИ каждый день и хочет понимать, что у него внутри. Вы пройдёте семьдесят лет идей, тупиков и прорывов, поймёте, как работает языковая модель и почему она ошибается, и сможете сами судить о громких заявлениях. Программировать уметь не нужно.

Здесь пока только оглавление. Уроки появляются по одному, и сроков мы не обещаем. Лента новых уроков (Atom)

41 урок, 9 частей

Часть 1 Мышление как правила

Первая большая идея: если разум работает с символами, его можно записать в виде программы.

  1. Может ли машина мыслить

    Статья Тьюринга 1950 года, игра в имитацию и почему он заменил вопрос о мышлении вопросом о поведении.

    скоро

  2. Дартмут, 1956: у науки появляется имя

    Заявка Маккарти, Минского, Рочестера и Шеннона, летний семинар и обещание заметно продвинуться за одно лето.

    скоро

  3. Logic Theorist и гипотеза символьных систем

    Как программа Ньюэлла, Саймона и Шоу доказывала теоремы и как из этого выросла главная ставка символьного ИИ.

    скоро

  4. SHRDLU и мир кубиков

    Программа Винограда около 1970 года понимала приказы о кубиках, и на ней видно, почему такой успех не масштабируется.

    скоро

  5. Экспертные системы: знания как товар

    MYCIN в медицине, XCON в DEC и инженер знаний: первый случай, когда ИИ начал приносить деньги.

    скоро

  6. Две зимы ИИ

    Доклад Лайтхилла 1973 года, сокращение финансирования, крах рынка лисп-машин и урок о том, чем заканчиваются завышенные обещания.

    скоро

Часть 2 Собеседники

Машины, которые ничего не понимали, и люди, которые всё равно им верили.

  1. ELIZA: психотерапевт из шаблонов

    Программа Вейценбаума 1966 года, сценарий DOCTOR и то, как автора напугала готовность людей ей довериться.

    скоро

  2. Эффект ЭЛИЗЫ сегодня

    Почему мы приписываем понимание тому, что складно отвечает, и как эта привычка работает с современными моделями.

    скоро

  3. A.L.I.C.E.: десятки тысяч правил

    Чат-бот Ричарда Уоллеса 1995 года, язык AIML и три премии Лёбнера, полученные совсем без обучения на данных.

    скоро

  4. Тест Тьюринга как соревнование

    Что на самом деле измеряла премия Лёбнера и почему обмануть судью не значит мыслить.

    скоро

  5. Siri, Alexa и Алиса

    Голосовые помощники 2011, 2014 и 2017 годов: распознавание речи на нейросетях и сценарии, написанные людьми.

    скоро

Часть 3 Что вообще считать интеллектом

Спор о словах, от которого зависят и цели исследований, и сегодняшние заголовки.

  1. Слабый и сильный ИИ

    Различие из статьи Сёрла 1980 года, его китайская комната и почему спор о ней не окончен.

    скоро

  2. Когнитивные архитектуры

    Soar и ACT-R: попытка построить модель всего разума, с памятью, вниманием и обучением, а не решать отдельные задачи.

    скоро

  3. Здравый смысл вручную: проект Cyc

    С 1984 года Дуглас Ленат и его команда записывали знания о мире в виде правил, и по этой работе видно, как их много.

    скоро

Часть 4 Поколения нейронных сетей

Вторая большая идея, которая шла рядом с первой семьдесят лет: не записывать правила, а учиться на примерах.

  1. Искусственный нейрон и перцептрон

    Модель Маккаллока и Питтса 1943 года, перцептрон Розенблатта 1958 года и первые громкие обещания машинного обучения.

    скоро

  2. Книга, которая остановила перцептроны

    Минский и Пейперт в 1969 году показали пределы однослойной сети, а задача XOR стала символом этого спора.

    скоро

  3. Обратное распространение ошибки

    Статья Румельхарта, Хинтона и Уильямса 1986 года и простая мысль о том, как сеть узнаёт, какой вес виноват в ошибке.

    скоро

  4. Сети для картинок и для последовательностей

    Свёрточная сеть Лекуна для почтовых индексов и LSTM Хохрайтера и Шмидхубера 1997 года: две архитектуры, которые ждали своих данных.

    скоро

  5. Тихая победа статистики

    Спам-фильтры, поиск и машинный перевод девяностых: когда данные начали побеждать правила без всякого шума.

    скоро

Часть 5 Глубокое обучение

Большие данные, видеокарты и несколько старых идей сошлись, и за пять лет изменилось всё.

  1. ImageNet и AlexNet

    Набор данных Фей-Фей Ли 2009 года, сеть Крижевского, Суцкевера и Хинтона 2012 года и роль видеокарт в этом переломе.

    скоро

  2. Смысл как координаты

    Word2vec 2013 года и мысль, на которой стоят все языковые модели: слово можно представить точкой в пространстве.

    скоро

  3. Deep Blue и AlphaGo: две победы

    Шахматы 1997 года выиграл перебор, а го 2016 года выиграло обучение, и разница между ними важнее самих побед.

    скоро

  4. Машины, которые рисуют

    GAN Гудфеллоу 2014 года, диффузионные модели и Stable Diffusion 2022 года: как сеть учится создавать, а не только распознавать.

    скоро

  5. AlphaFold: ИИ в науке

    Как задача о форме белка получила практическое решение в 2020 году и привела к Нобелевской премии 2024 года.

    скоро

Часть 6 Attention и GPT

Одна статья 2017 года и то, что выросло из неё за пять лет.

  1. Идея внимания

    Машинный перевод, работа Багданау, Чо и Бенджио 2014 года и простая мысль о том, что сеть может сама решать, куда смотреть.

    скоро

  2. Attention Is All You Need

    Статья Васвани и соавторов 2017 года: архитектура «трансформер», объяснённая простыми словами и нарисованная по шагам.

    скоро

  3. GPT, GPT-2, GPT-3

    Модели OpenAI 2018, 2019 и 2020 годов: что менялось от версии к версии и с чего начались споры о публикации моделей.

    скоро

  4. Как работает языковая модель

    Токены, вероятности, контекст и температура: что происходит между вашим вопросом и ответом и почему модель сочиняет правдоподобное.

    скоро

  5. Законы масштабирования и их пределы

    Работа Каплана и соавторов 2020 года, рост за счёт данных и вычислений и честный вопрос о том, как долго это будет работать.

    скоро

  6. ChatGPT: дообучение на людях

    InstructGPT, обучение с подкреплением по оценкам людей и день 30 ноября 2022 года, когда модель заговорила со всеми.

    скоро

  7. Модели, которые рассуждают

    Цепочки рассуждений, модели 2024 и 2025 годов вроде o1 и DeepSeek-R1 и спор о том, что именно они делают.

    скоро

Часть 7 Агенты

Модель получает инструменты и память, и из собеседника превращается в исполнителя.

  1. Инструменты и цикл агента

    Как модель вызывает инструменты, читает результат и решает, что делать дальше, и какую роль в этом играет протокол MCP.

    скоро

  2. Память агента

    Почему модель ничего не помнит между разговорами, как память строят поверх неё и что показывает открытая библиотека Reminisce от NoeticEcho.

    скоро

  3. Как агенты ошибаются

    Подмена задачи, внедрение инструкций и уверенный отчёт о несделанном: типичные сбои, которые объясняются устройством самой модели.

    скоро

Часть 8 Кто это делает

Компании, чипы и деньги: без них история идей не объясняет, почему всё сложилось именно так.

  1. Лаборатории ИИ

    DeepMind (2010), OpenAI (2015), Anthropic (2021), xAI, Mistral и DeepSeek (2023), а также Meta, Яндекс и Сбер: кто откуда взялся и как устроен.

    скоро

  2. Открытые и закрытые модели

    Что значит «открытые веса», чем это отличается от открытого кода и почему после LLaMA 2023 года этот спор стал практическим.

    скоро

  3. Чипы, дата-центры и энергия

    Откуда берутся вычисления, почему так важны несколько компаний в цепочке поставок и сколько электричества это требует.

    скоро

Часть 9 AGI, ASI и завтрашний день

Самые громкие слова этой области: что они значат, что о них известно и чего не знает никто.

  1. AGI: общий интеллект

    Откуда взялся термин, почему у него нет единого определения и как относиться к заявлениям, что он вот-вот появится.

    скоро

  2. ASI: сверхинтеллект

    От «ультраинтеллектуальной машины» Гуда 1965 года до книги Бострома 2014 года: логика аргумента и его слабые места.

    скоро

  3. Согласование: как задать цель

    Почему машина может выполнить сказанное, а не задуманное, и о чём предупреждают сами создатели этих систем.

    скоро

  4. Заглянем в ближайшее будущее

    Что может измениться в ближайшие годы, что только обещают и как проверять такие прогнозы самому, когда они приходят в новостях.

    скоро