Вот странность, к которой мы как-то слишком быстро привыкли. Человечество построило машину, которая пишет стихи, ставит диагнозы, переводит с языка, которого её не учили, и спорит о смысле жизни. И при этом ни один человек на Земле не знает, как именно она это делает. Не в общих чертах — в общих чертах знают многие. А по-настоящему, шаг за шагом: вот пришёл вопрос, вот внутри зажглось одно, потом другое, и поэтому получился такой ответ.

Это не лень инженеров и не секрет корпораций. Большую языковую модель никто не писал, как пишут программу, строка за строкой. Её вырастили. Показали ей чудовищное количество текста и заставили миллиарды раз угадывать следующее слово, чуть-чуть подправляя внутренние связи после каждой ошибки. В конце получилась сеть из сотен миллиардов чисел, которая работает — но устроена так, как сложилась сама, а не так, как удобно человеку.

И вот тут возникает соблазн, который мы сразу отметём: а давайте просто спросим её саму. Спросим: «как ты решила эту задачу?» Она охотно ответит. Беда в том, что её ответ — это ещё один сгенерированный текст, а не честный отчёт изнутри. Дальше в курсе мы поймаем модель на том, как она складывает числа одним способом, а рассказывает, что складывала совсем другим — тем, которому учат в школе. Спрашивать бесполезно. Остаётся одно: смотреть внутрь. Как биологи.

Часть 1. Выращенное, а не построенное

Обычная программа прозрачна по построению. Кто-то её написал, значит, кто-то знает, что делает каждая строчка: если налогов больше нуля — добавить к сумме, иначе пропустить. Можно открыть код и прочитать замысел.

Большая языковая модель устроена иначе. Внутри неё нет строчек с замыслом. Есть слои — как ткани в организме, — а в них сотни миллиардов весов: просто чисел, которые говорят, насколько сильно один крошечный узел влияет на другой. Никто эти числа не расставлял вручную. Их настроило само обучение, понемногу сдвигая после каждой из триллионов попыток угадать следующее слово. Результат работает поразительно хорошо — и абсолютно непрозрачен. Это как геном: записано всё, но прочитать с листа, почему существо получилось именно таким, нельзя.

Часть 2. Метод биолога

Раз спросить нельзя, наука пошла другим путём — тем же, каким шла биология. Биолог не спрашивает у клетки, как она работает. Он берёт микроскоп, краситель, тонкий нож — и смотрит. Разглядывает ткани, прослеживает, какой сигнал куда идёт, аккуратно отключает одну часть и смотрит, что сломается.

Это направление называется интерпретируемость (по-английски interpretability). В 2025 году исследователи компании Anthropic выпустили работу с говорящим названием: «О биологии большой языковой модели» [1]. Само название — программа. Они впрямую предлагают изучать ИИ как невиданный организм: искать в нём «органы», «клетки» и «нервные пути», зарисовывать анатомию его мыслей. Этот курс — десять глав по мотивам их вскрытия, рассказанных по-человечески.

У микроскопа для мысли долгая родословная. Ещё в 2020 году Крис Олах и коллеги в манифесте «Zoom In» предложили смотреть на нейросети как на организмы, у которых есть свои «клетки» и «органы», и разглядывать их в упор [2]. Прошло пять лет — и из мечты это стало рабочим инструментом.

Часть 3. Организм под микроскопом

Введём наш главный образ, который будет с нами все десять глав. Мы — натуралисты. Перед нами на стекле — странный полупрозрачный организм: большая языковая модель. Мы будем разглядывать его клетки, прослеживать нервные пути, рисовать анатомические атласы его мыслей и тыкать в него зондом, чтобы посмотреть, что дёрнется. Вот словарь, которым мы будем пользоваться весь курс.

Самое важное в этой таблице — четвёртая и пятая строки, потому что в них спрятан настоящий научный метод. Граф атрибуции показывает, что на что влияет. Но карта может и наврать. Поэтому решающий ход — вмешательство: если мы думаем, что вот эта клетка отвечает за «Техас», мы её насильно гасим или зажигаем и смотрим, поедет ли ответ следом. Поехал — значит, мы поняли правильно. Это разница между «увидел узор» и «доказал, что узор работает».

Часть 4. Первая клетка: организм, одержимый мостом

Хватит теории — посмотрим в окуляр на настоящую клетку. В 2024 году исследователи нашли внутри модели Claude фичу — крошечный детектор, — которая зажигалась всякий раз, когда речь заходила о мосте Золотые Ворота в Сан-Франциско [3]. На картинке моста, на слове «Golden Gate», на упоминании Сан-Франциско — клетка вспыхивала.

А потом они сделали то, что биолог сделать не может, а анатом мысли — может: взяли зонд и насильно вывернули этой клетке яркость на максимум. И организм сошёл с ума самым трогательным образом. На вопрос «как дела?» он отвечал что-то про туман над пролётами моста. Просили рецепт — получался рецепт с видом на Золотые Ворота. Модель буквально стала одержима мостом: куда ни ткни, мысль сворачивала к нему. Эту версию в шутку назвали Golden Gate Claude.

Часть 5. Честно о границах микроскопа

Прежде чем восхищаться, поставим рамку — в этой серии так заведено. Микроскоп для мысли пока грубоват, и сами авторы биологической работы первыми об этом говорят [1].

Держите это в голове все десять глав: мы будем показывать красивые, разобранные до конца случаи — но это удачные примеры, доказательства существования, а не гарантия, что так устроено всё и всегда. Карта — не территория. И всё же впервые в истории у нас вообще есть карта.

А дальше — вглубь. Со второй главы мы возьмём в руки первый по-настоящему важный инструмент и разберёмся, что такое клетка-фича и почему один и тот же нейрон модели умеет думать сразу о множестве несвязанных вещей.