Слабый и сильный ИИ — различение работающих ИИ-систем: слабый (узкий) ИИ решает один класс задач, на котором обучен; сильный (общий, AGI) — гипотетическая система, способная самостоятельно ставить цели и осваивать любые интеллектуальные задачи на уровне человека. Практическая роль различения: оно задаёт корректные ожидания от проекта, потому что все системы, доступные сегодня, включая языковые модели, — узкие.
Узкий ИИ: всё, что работает сегодня
Каждая работающая система узка. Распознавание лиц, перевод, генерация текста, поиск по базе знаний, прогноз спроса — каждая система решает класс задач, заданный обучающими данными. Ни одна не является общей: универсального «электронного сотрудника», которому можно поручить любую работу, на рынке не существует.
Узость не значит примитивность. Узкая система может сильно превосходить человека в своём классе: поиск по миллионам документов, сортировка обращений, чтение рентгеновских снимков по узкому профилю. Сила и узость не противоречат друг другу — они сочетаются.
Языковые модели — тоже узкие. Поражающий охват тем создаёт впечатление общности, но за ним стоит одна задача — предсказание следующего токена на человеческом тексте, — натренированная до высокой точности. Широта тем не равна способности осваивать новые области так, как это делает человек.
Что именно узкого у языковых моделей
Нет собственных целей. Модель ничего не хочет: цели, инициатива и «мотивация» в агентных сценариях задаются снаружи — промптом, настройками, кодом обвязки. Убрать внешнюю постановку задачи — и остаётся механизм, отвечающий на вход.
Нет памяти вне контекста. Между сессиями ничего не сохраняется; «память» продуктов — внешние хранилища, из которых нужное подтягивается в текущий контекст. Что не попало в контекст — для модели не существует; как устроено это ограничение — в статье «Контекстное окно».
Перенос навыка ограничен. Модель переносит шаблоны с похожих задач, но не переучивается заново в новой области: на непохожих входах качество падает без предупреждения, с той же уверенностью в ответах.
Уверенность не откалибрована. Правдоподобие ответа не сигнал его надёжности: модель одинаково гладко пишет и верное, и вымышленное. Отсюда необходимость внешних проверок и метрик.
AGI — термин без продукта
Общего определения нет. AGI — исследовательская цель и маркетинговый ярлык одновременно; критериев, по которым систему признали бы общей, индустрия не зафиксировала. Ни один доступный сегодня продукт AGI не является.
Для внедрений это не критерий. Выбор системы определяется точностью и стоимостью на ваших данных, надёжностью, интеграцией, комплаенсом — а не положением модели на воображаемой шкале к AGI. Заявления о скором наступлении сильного ИИ не меняют ни одной строки сметы.
Где различение нужно на практике
Управление ожиданиями заказчика. Разговоры о сильном ИИ влияют на проекты не напрямую, а через ожидания: заказчик и сотрудники ждут универсальности — «она же всё умеет» — и закладывают в масштаб проекта то, чего система не сделает. Противоядие конкретное: демонстрация на своих данных до контракта и пилот с измеримыми критериями успеха — «Пилотный проект».
Фиксация границ в договоре и ТЗ. Что система делает, что не делает, кто отвечает за ошибку — вопросы, которые снимают иллюзию универсальности до старта. Распределение ответственности за ошибку ИИ — отдельная тема «Кто отвечает за ошибку ИИ».
Коммуникация с командой. Сотрудники, ждавшие «замены всему», саботируют или разочаровываются; те, кому показали узкий инструмент с границами, начинают его применять. Узкий ИИ внедряется как инструмент, а не как коллега.
Чем опасна вера в универсальность при выборе проекта
Задачи выбираются по эффекту, а не по данным. Проекты без размеченных примеров и без способа дёшево проверить правильность ответа проваливаются независимо от качества модели: нечего учить и нечем мерять. Универсальность тут не помогает, потому что её нет.
Отказ от метрик. «Модель умная, оценим потом» — признак будущего провала. Если правильность ответа нельзя измерить дешевле, чем получить его человеком, автоматизация не окупается.
Передача решений без контроля. Универсальной системе отдают решения, требующие проверки. Правило обратное: чем выше цена ошибки, тем уже класс задач и строже контроль человеком на критичных шагах.
Типичные ошибки
- ТЗ через «интеллект». Требования вида «система должна понимать и действовать разумно» не проверяемы. В ТЗ — измеримые критерии: точность на проверочном наборе, допустимая доля ошибок, время ответа.
- Сравнение с идеалом, а не с базлайном. Внедряться надо против текущего процесса с его ценой и ошибками, а не против воображаемого сотрудника без недостатков.
- Ожидание самостоятельности агентов. «Поставим агента — сам разберётся»: цели, инструменты и границы агента задаются людьми, иначе результат не воспроизводим.
- Игнор хвоста ошибок. 95% точности на широком классе — это поток ошибок каждый день; та же модель в узком классе даёт 99% и выше. Сужение задачи — самый дешёвый прирост качества.
- Экстраполяция демо. Удачные примеры из презентации показывают возможности в лучшем случае, но не распределение надёжности на ваших данных.
Частые вопросы
Большие языковые модели — это уже сильный ИИ?
Нет. Одна выученная задача, отсутствие собственных целей, память только в пределах контекста, ограниченный перенос навыка — всё это признаки узкой системы. Уровень генерации текста высокий, но границы остаются, и проектные решения должны их учитывать.
AGI скоро появится?
Датов без согласованных критериев не существует, а прогнозы не влияют на выбор системы под задачу. Для планирования внедрения вопрос нерелевантен: решения принимаются по метрикам доступных инструментов на своих данных.
Что отвечать заказчику, который ждёт «ИИ как в фильмах»?
Демонстрацией на его данных и пилотом с измеримыми критериями. Разговор переводится с «что модель может в принципе» на «что она делает на ваших примерах с такой-то точностью и ценой» — это снимает и завышенные, и заниженные ожидания.
Узкий ИИ — значит маленькая модель?
Нет. Узость — про класс задач, а не про размер: модель на сотни миллиардов параметров остаётся узкой. Размер влияет на сложность задач внутри класса и на цену работы, но не даёт общности.
Чем опасно обещание «универсального ассистента»?
Сложность проверки растёт быстрее ширины задач: чем шире область, тем дороже проверка правильности и тем чаще ошибки вне обученного. Успешные продукты почти всегда узки и глубоко встроены в конкретный процесс.
Отличается ли узкий ИИ от ИИ-агентов?
Агент — это узкая модель в обвязке с целями и инструментами, заданными людьми. Автономность обвязки не превращает узкую модель в общую; границы ответственности задаются на этапе проектирования.
Что почитать по теме
- Нейронная сеть — что внутри узких систем и почему они вычисляют, а не думают.
- Пилотный проект — как проверка на своих данных заменяет споры о возможностях.
- Агент — откуда берутся цели и границы автономности.
- Техническое задание на ИИ-проект — измеримые требования вместо «интеллекта».
- Проверочный набор и бенчмарк — чем измеряется узость на вашей задаче.