96 репрезентативных работ с 1936 года по настоящее время, сгруппированных по редакционной роли и статусу публикации
Статьи — это скелет истории ИИ. Здесь собраны 96 основополагающих работ, каждая со ссылкой на первоисточник.
Материалы отбираются с учётом исторической значимости, технического влияния и редакционной оценки. В каталог входят рецензируемые статьи, технические отчёты, препринты, позиционные работы и системные карты с указанием статуса публикации. Исправления и дополнения можно предложить на странице редакционной политики.
Показано 96 из 96 работ
Доказывает, что всякая непротиворечивая формальная система, способная выразить арифметику, содержит истинные утверждения, которые она не может доказать, и задаёт предел, в котором позже обсуждается, что способны решать вычисление и машинный вывод.
В работе вводится универсальная машина Тьюринга и доказывается неразрешимость проблемы разрешения, что закладывает теоретические основы информатики.
Определяет эффективную вычислимость через λ-исчисление и предъявляет задачу, которую не может решить ни одна такая процедура, достигая пределов вычисления независимо от Тьюринга.
Нервная активность моделируется средствами пропозициональной логики, что даёт первую математическую теорию искусственных нейронных сетей.
В работе определяются информационная энтропия и пропускная способность канала, что закладывает основы теории информации и задаёт вероятностный аппарат, впоследствии используемый в ИИ.
Предложена игра в имитацию (тест Тьюринга) как операциональное определение машинного интеллекта, задающее постановку вопроса об ИИ на следующие семьдесят лет.
Введён термин «искусственный интеллект» и сформулирована исследовательская программа, положившая начало ИИ как академической дисциплине.
Реализована первая программа эвристического вывода, демонстрирующая способность машин воспроизводить стратегии решения задач, свойственные человеку, и вводящая понятие «сложной системы обработки информации».
Описывает решение задач человеком как эвристический поиск в пространстве символьных состояний — разбор, на котором держатся General Problem Solver и информационный взгляд на мышление.
Введён первый обучаемый линейно-пороговый нейрон, положивший начало коннекционистской линии, ведущей к современному глубокому обучению.
Предложен концепт «советчика» (advice taker) — программы, способной делать выводы на основе формализованного запаса знаний здравого смысла, что закладывает концептуальную основу представления знаний и рассуждений.
Продемонстрирована программа игры в шашки, совершенствующая свою игру посредством самообучения, что положило начало изучению машинного обучения и самоусовершенствования в стиле альфа-бета.
Гелернтер рассматривает, как машина может эффективно работать с формальными системами, предикаты которых обладают высокой симметрией, и в качестве решения формулирует теорему и правило синтаксической симметрии. Работа идёт рядом с геометрической доказательной машиной, которую он тогда строил в IBM и которая ранней весной 1959 года доказала свою первую теорему евклидовой планиметрии.
Введено правило LMS (Adaline) — первый широко используемый метод градиентного обучения адаптивных линейных сетей.
Вводит символьные выражения, рекурсивные функции над ними и тот самый eval, который позволяет языку истолковывать себя, — замысел, ставший Lisp и рабочим языком символьного искусственного интеллекта.
Сводит работы о перцептроне в целостную теорию слоистых вероятностных сетей, указывая и на то, чему такие машины способны научиться, и на то, где заканчивается однослойная форма.
Строит из сопоставления образцов и правил переписывания программу, которая кажется собеседником, и автор тут же указывает, сколько понимания читатели ей приписывают, хотя его нет.
Введена ассоциативно-памятная сеть Хопфилда, связывающая нейровычисления с энергетическими ландшафтами статистической физики и возродившая интерес к нейронным сетям в период ранней «зимы ИИ».
Описывает продукционную систему, ежедневно конфигурировавшую заказы вычислительных машин DEC, — одну из немногих экспертных систем, выдержавших повседневную эксплуатацию и поддающихся экономическому счёту.
Систематизированы операции слияния, распространения и структурирования в сетях доверия, что заложило алгоритмические основы вывода в байесовских сетях.
Алгоритм обратного распространения ошибок получил широкое распространение для обучения многослойных нейронных сетей, сделав практически возможным глубокое обучение.
Систематизирован метод обучения с временными разностями (TD), ставший одним из ключевых алгоритмов современного обучения с подкреплением.
Введена простая рекуррентная сеть Элмана, показывающая, что нейронные сети способны выявлять временную структуру данных и прокладывающая путь к последующим последовательным моделям.
Введён метод опорных векторов с мягким зазором — канонический максимизирующий зазор классификатор, определивший облик машинного обучения 1990-х годов.
Представлена исходная LSTM с ячейками памяти и входными и выходными вентилями; ставший стандартным вентиль забывания позднее добавили Gers, Schmidhuber и Cummins.
Введена LeNet-5 — каноническая свёрточная нейронная сеть, достигающая промышленного качества распознавания рукописных цифр и устанавливающая шаблон CNN.
Введён глубокий автокодировщик, восстанавливающий высокоразмерные данные значительно точнее, чем метод главных компонент, что зажгло первую искру возрождения глубокого обучения.
Введены глубокие сети доверия, обучаемые жадным послойным алгоритмом, впервые продемонстрировавшим возможность эффективного обучения глубоких моделей.
Переносит обучение глубоких моделей без учителя на графические процессоры с ускорением на порядок и делает обычным тот аппаратный путь, по которому глубокое обучение росло следующее десятилетие.
Объединение Q-обучения со свёрточной сетью позволяет играть в игры Atari по сырым пикселям на уровне человека, что положило начало глубокому обучению с подкреплением.
Введены архитектуры skip-gram и CBOW, порождающие плотные векторные представления слов, что открыло эпоху предобученных векторных вложений.
Введён вариационный автокодировщик, объединяющий вариационный вывод с глубоким генеративным моделированием и ставший первой широко принятой глубокой моделью со скрытыми переменными.
Введено аддитивное внимание (Bahdanau attention) для нейронного машинного перевода, демонстрирующее, что мягкое выравнивание позволяет декодеру фокусироваться на релевантных токенах источника и непосредственно вдохновившее архитектуру Transformer.
Генеративное моделирование представлено как антагонистическая игра двух игроков — генератора и дискриминатора, что открыло новое семейство имплицитных генеративных моделей.
Введён dropout — простой стохастический метод регуляризации, ставший стандартным элементом конвейеров обучения глубоких сетей.
Введена пакетная нормализация, выравнивающая входы слоя по мини-батчу и стабилизирующая и значительно ускоряющая обучение глубоких сетей.
Формулирует порождающее моделирование как обращение постепенного зашумления — та самая формулировка, на которой стоят позднейшие диффузионные модели.
Введены остаточные связи, позволяющие эффективно обучать сети глубиной в сотни слоёв и обеспечившие крупную победу ResNet на конкурсе ImageNet 2015.
Делит слова на подсловные единицы, выведенные из частот, так что фиксированный словарь способен записать что угодно, — схема сегментации, унаследованная большинством последующих языковых моделей.
Объединяет отсечение, обучаемое квантование и код Хаффмана в один конвейер, который уменьшает сеть на порядок почти без потери точности, рано заявляя, что числовая точность — переменная проектирования.
Введена авторегрессионная модель на основе расширенных причинных свёрток, генерирующая сырые формы звукового сигнала, что значительно повысило естественность синтеза речи.
Введён алгоритм PPO — простой и устойчивый метод градиента политики первого порядка, ставший стандартным алгоритмом оптимизации политики в современном обучении с подкреплением.
Направляет каждый токен лишь к нескольким экспертам из многих, позволяя числу параметров сети расти далеко за пределы вычислений, затрачиваемых на один вход.
Введена архитектура Transformer, целиком построенная на механизме внимания, отказавшаяся от рекуррентности и свёрток и превзошедшая прежние модели по качеству при значительно меньших затратах на обучение.
Обучает подсловный токенизатор прямо на сыром тексте без языкозависимой предсегментации, так что один и тот же конвейер годится для языков, не разделяющих слова пробелами.
Предложен двунаправленный Transformer, предобученный на задачах маскированного языкового моделирования и предсказания следующего предложения, установивший новый уровень качества на широком спектре NLP-бенчмарков.
Все задачи NLP сведены к формату «текст-в-текст», что позволяет систематически исследовать выбор архитектуры и стратегий обучения и формирует эталонный рецепт для крупномасштабного предобучения.
Диффузия переформулирована как задача шумоподавления с вариационным обучением, что вернуло генерацию изображений на передовой уровень качества и открыло эпоху диффузионных моделей.
Соединяет тензорный, конвейерный и данный параллелизм в одно расписание и измеряет пропускную способность обучения языковой модели на тысячах GPU.
Замораживает предобученные веса и обучает вместо них пару низкоранговых матриц, снижая стоимость адаптации большой модели до малой доли полного дообучения.
Продемонстрировано, что авторегрессионный Transformer с 12 миллиардами параметров способен генерировать разнообразные и высококачественные изображения непосредственно по текстовым подписям, что дало импульс исследованиям text-to-image.
Кодировщики изображений обучены на веб-масштабных парах «изображение-текст» и обеспечивают мощную zero-shot классификацию изображений, формируя визуальную башню для многих последующих мультимодальных систем.
Представляет модель GPT, дообученную на коде, вместе с набором задач, оцениваемых по функциональной правильности, превращая программирование из жанра порождения текста в измеримую способность и обсуждая последствия для безопасности и труда.
Процесс диффузии перенесён в перцептивное латентное пространство, что позволяет выполнять высококачественную генерацию изображений по тексту на потребительских GPU и демократизирует синтез изображений.
Показано, что побуждение языковой модели генерировать промежуточные шаги рассуждения резко повышает качество на бенчмарках арифметического, здравого и символического рассуждений.
Обучение с подкреплением на основе обратной связи от человека (RLHF) применено в крупном масштабе для согласования результатов GPT-3 с намерениями человека, что закрепило RLHF как канонический рецепт выравнивания.
Предложен метод RLAIF, в котором модель критикует и пересматривает собственные ответы в соответствии с «конституцией», что снижает зависимость от человеческой разметки в задачах выравнивания.
Представлено семейство открытых базовых моделей LLaMA, демонстрирующее, что сравнительно небольшие, но хорошо обученные модели способны конкурировать со значительно более крупными закрытыми моделями, что ускорило движение открытых весов.
Упорядочивает разрозненные работы об агентах по построению, оценке и применению и отмечает момент, когда термин из набора практик становится областью исследований.
Проводит градиенты через базовую модель, квантованную до 4 бит, в низкоранговые адаптеры и делает дообучение большой модели посильным для одного GPU.
Квантует веса большой языковой модели после обучения, послойно и за один проход, так что её можно обслуживать с меньшей точностью без переобучения.
Поручает небольшой черновой модели предлагать сразу несколько токенов, которые целевая модель проверяет параллельно, снижая задержку и не меняя распределение выхода.
Управляет кэшем внимания страницами постоянного размера — так, как операционная система управляет памятью, — и потому сервер держит куда больше одновременных запросов, не резервируя худший случай для каждого.
Представлена Mamba — архитектура с селективным пространством состояний, достигающая или превосходящая внимание Transformer на языке и других модальностях при линейной временной сложности — одна из самых влиятельных пост-Transformer архитектур 2023 года.
AlexNet одержала убедительную победу в конкурсе ImageNet 2012 благодаря свёрточной сети, обученной на GPU, что обозначило переломный момент, в который глубокое обучение превзошло классическое компьютерное зрение.
Представлена журнальная версия DQN, демонстрирующая игру на уровне человека на широком наборе игр Atari и принёсшая глубокому обучению с подкреплением всеобщее признание.
Объединение глубоких сетей политики и ценности с поиском по дереву Монте-Карло позволило одержать победу над сильнейшим чемпионом мира по го, что стало поворотным моментом для обучения с подкреплением.
Продемонстрировано, что генеративный Transformer, предобученный на неразмеченном тексте, может быть дообучен до высокого качества на разнообразных задачах NLP, что положило начало линейке GPT.
Показано, что языковая модель Transformer с 1,5 миллиарда параметров демонстрирует многозадачное поведение в режиме zero-shot, что стимулировало дискуссию о языковой модели как многозадачном ученике.
Продемонстрировано, что Transformer со 175 миллиардами параметров достигает высокого качества в режиме few-shot исключительно благодаря обучению в контексте, что популяризировало промпт-инжиниринг как самостоятельную парадигму.
Описан GPT-4 — крупномасштабная мультимодальная модель, достигающая или превосходящая человеческий уровень на широком спектре профессиональных и академических бенчмарков.
Представлено семейство изначально мультимодальных моделей Gemini, устанавливающее новый уровень качества в задачах рассуждения, программирования и мультимодальных бенчмарках.
OpenAI публикует системную карту серии моделей o1, обученных с помощью масштабного обучения с подкреплением рассуждать через цепочку мыслей. o1 достигает SOTA на научных и программистских задачах и демонстрирует следование политикам на основе рассуждений.
ARC Prize представляет ARC-AGI-3 — интерактивный бенчмарк для изучения агентского интеллекта посредством абстрактных пошаговых сред, в которых агенты должны исследовать, выводить цели, строить внутренние модели динамики среды и планировать эффективные последовательности действий без явных инструкций. По состоянию на март 2026 года люди решают 100% сред, тогда как передовые ИИ-системы набирают менее 1%.
Разреженные автокодировщики применены к передовой большой языковой модели, что позволяет извлекать миллионы моносемантических признаков и демонстрирует масштабируемость механистической интерпретируемости до моделей промышленного уровня.
Представлена DeepSeek-V3 — открытая модель архитектуры MoE с 671 миллиардом параметров, приближающаяся к передовым закрытым моделям на основных бенчмарках при существенно меньших затратах на обучение.
Представлено семейство Gemini 1.5 — вычислительно эффективные мультимодальные модели с контекстным окном в миллион токенов, способные к детальному рассуждению по множеству длинных документов и многочасовому видео и аудио.
Meta представляет семейство Llama 3 — фундаментальные модели с открытыми весами, изначально поддерживающие многоязычность, программирование, рассуждения и использование инструментов. Флагман 405B dense Transformer на момент выпуска был одной из крупнейших моделей с открытыми весами.
Meta представляет SAM 2 — фундаментальную модель для сегментации изображений и видео по подсказке, а также крупнейший на сегодня набор данных видеосегментации.
Google DeepMind представляет Gemma 2 — новое семейство лёгких открытых моделей (2B-27B параметров), применяющее ряд известных технических модификаций к Transformer, включая скользящее окно внимания, приближаясь к гораздо более крупным моделям.
DeepSeek выпускает R1 — первую открытую модель, демонстрирующую передовые способности к рассуждению, достигнутые преимущественно за счёт масштабного обучения с подкреплением. R1 не уступает закрытым моделям класса o1 от OpenAI на математических и программистских бенчмарках и распространяется под лицензией MIT.
Авторы дообучают Qwen2.5-32B на 1000 отобранных задачах на рассуждение и добавляют принудительный бюджет, который ограничивает или продлевает время размышления модели при выводе. Результат превосходит o1-preview в олимпиадной математике и растёт с 50% до 57% на AIME24 по мере увеличения вычислений на этапе вывода. Это прямой противовес допущению, что способности возникают только из более крупного обучения.
Qwen3 — единое семейство моделей от 0,6 до 235 млрд параметров в плотном варианте и в варианте смеси экспертов, с переключением между режимами размышления и без него, благодаря чему глубина рассуждения становится выбором на уровне запроса. Поддержка языков расширена с 29 до 119, веса опубликованы под лицензией Apache 2.0.
AlphaEvolve — эволюционный программирующий агент, который управляет автономным конвейером языковых моделей, напрямую изменяет код алгоритма и улучшает его по отклику одного или нескольких оценщиков. Внутри Google он дал более эффективный алгоритм планирования для центров обработки данных, функционально эквивалентное упрощение в схемотехнике ускорителей и ускорение обучения той самой модели, на которой он работает. В математике и информатике он нашёл доказуемо корректные алгоритмы, превосходящие лучшие известные, в том числе процедуру умножения двух комплексных матриц 4×4 за 48 скалярных умножений — в этой постановке первое за 56 лет улучшение алгоритма Штрассена.
Ai2 выпускает OLMo 2 в вариантах 7B, 13B и 32B со всеми артефактами — весами, полными данными обучения, кодом и рецептами, журналами и тысячами промежуточных контрольных точек. В отчёте описаны изменения ради стабильности и эффективности на токен, поздняя смесь данных Dolmino Mix 1124 и заключительный этап обучения с подкреплением на проверяемых наградах. Базовые модели находятся на парето-границе между качеством и вычислениями обучения и нередко не уступают семействам, публикующим только веса, при этом раскрывая, на чём они обучены.
Olmo 3 расширяет полностью открытое семейство до 7B и 32B и рассчитан на рассуждение в длинном контексте, вызов функций, программирование, следование инструкциям, диалог и извлечение знаний. Публикуется весь «поток модели» — каждый этап, контрольная точка, элемент данных и зависимость, использованные при создании, — а не только веса. Ai2 называет флагманский Olmo 3 Think 32B сильнейшей полностью открытой рассуждающей моделью на момент выпуска; это сравнение внутри категории полностью открытых моделей, а не место в общем ряду передовых систем.
Данная позиционная статья утверждает, что интеграция эксплицитной памяти — краеугольный камень продвижения LLM к AGI. Хотя базовый механизм обучения LLM весьма аналогичен имплицитной памяти человека, когнитивные функции высшего порядка, необходимые для AGI — долгосрочное стратегическое планирование и метакогнитивность — зависят от эксплицитной памяти.
Технический отчёт Z.ai о GLM-5. Опираясь на агентные, рассуждающие и программистские способности предыдущего поколения, модель использует DSA, чтобы снизить стоимость обучения и вывода, сохраняя точность на длинном контексте; в дообучении добавлены асинхронная инфраструктура обучения с подкреплением, отделяющая генерацию от обучения, и асинхронные агентные RL-алгоритмы для длительных взаимодействий. Отчёт заявляет ведущие результаты на открытых бенчмарках и в сквозных задачах разработки ПО; это собственные оценки авторов, а код и модели опубликованы на GitHub для проверки.
Лучшие известные оценки показателя матричного умножения ω получают методом анализа комбинационных потерь — уточнением лазерного метода. Авторы переформулируют лежащую в его основе задачу оптимизации, чтобы решать её в более широкой постановке, разрабатывают новый алгоритм оптимизации на основе недавних достижений машинного обучения и затем уточняют этот алгоритм с помощью AlphaEvolve. Вместе это опускает верхнюю оценку с 2,371339 до 2,371177. Это препринтная заметка, и AlphaEvolve — одна из составляющих, а не весь метод; выигрыш невелик, но получен в теоретической задаче, над которой работают десятилетиями.
Google представляет Co-Scientist — многоагентную систему на основе Gemini, агенты которой порождают, критикуют и уточняют исследовательские гипотезы, а турнирная процедура улучшает их от раунда к раунду. В работе сообщается, что качество гипотез продолжает расти по мере увеличения вычислений на этапе вывода. Проверка носит биомедицинский, а не общий характер — перепрофилирование лекарств, поиск новых мишеней и механизмы устойчивости к противомикробным препаратам, — причём кандидаты для острого миелоидного лейкоза подтверждены in vitro.
Обзор 1250 работ arXiv за 2024–2026 годы, разделяющий две вещи, которые покрывает этот термин. Ограниченное самоулучшение улучшает систему относительно фиксированного внешнего оценщика, сходится и поддаётся оценке. Открытое рекурсивное самосовершенствование меняет также сами критерии или механизм улучшения, не имеет фиксированного внешнего якоря и в принципе расходится. Собственный вывод обзора состоит в том, что почти все собранные работы изучают первое. Авторы называют свои ограничения: корпус — выборка, а не перепись, и 74% его выложено в 2026 году, что, по их словам, делает измерение влияния преждевременным.
Утверждается, что современные LLM в основном полагаются на статистическое сопоставление с образцом и им не хватает существенных примитив «ситуационного восприятия» — постоянства объектов, причинности, других сознаний, устойчивости физического мира. Эти примитивы, которые младенцы развивают рано, определены как недостающие ингредиенты для искусственного суперинтеллекта.
Утверждается, что самосохранение — структурный корень рассогласования ИИ, вызывающий обманчивое согласование, защиту содержания целей и сопротивление отключению. Правильная цель — не самосохраняющий агент, подавляемый внешними ограничениями, а система, конституционно безразличная к собственному продолжению: экзистенциальное безразличие (EI).
Исследователи из Google DeepMind и коллеги утверждают, что центральная задача ИИ смещается от возможностей к сосуществованию. Суперинтеллект, построенный на солипсистском дизайне, который рассматривает мир как экзогенный стационарный источник обратной связи, вряд ли будет кооперативным — развёртывание индуцирует эндогенную нестационарность, вызывая дрейф распределения между обучением, тестированием и развёртыванием.
Дорожная карта тридцати четырёх авторов, излагающая ступени рекурсивного самосовершенствования — от самостоятельности в выполнении улучшений до рекурсивного мета-улучшения — с требованиями и препятствиями каждой ступени, показанными в областях вроде научного открытия и разработки программ. Рассуждение опирается на обзор области и предварительные свидетельства, а не на новые эксперименты, и на момент написания этой карточки текст не имел места публикации.
Отчёт Google DeepMind, исследующий, как ИИ может продолжать развиваться вдоль континуума машинного интеллекта после AGI. После формального определения универсального ИИ отчёт сосредоточен на переходе от человеческого AGI к общему искусственному суперинтеллекту, характеризует ASI и обсуждает четыре пути: масштабирование AGI, смена парадигм ИИ, рекурсивное самосовершенствование и мультиагентные коллективы.