Вот странная штука, к которой мы все слишком быстро привыкли. Человечество построило машину. Она пишет стихи. Ставит диагнозы. Переводит с языков, которым её никто не учил. Спорит о смысле жизни.

И при этом ни один человек на Земле не знает, как именно она это делает. В общих чертах знают многие. А по-настоящему, шаг за шагом — нет. Вот пришёл твой вопрос, вот внутри зажглось одно, потом другое — и поэтому получился именно такой ответ, а не какой-то другой.

И это не лень инженеров и не секрет корпораций. Большую языковую модель никто не писал, как пишут обычную программу — строка за строкой. Её вырастили. Ей показали чудовищное количество текста и заставили миллиарды раз угадывать следующее слово. После каждой ошибки чуть-чуть подправляли связи внутри. В итоге получилась сеть из сотен миллиардов чисел. Она работает — но устроена так, как сложилась сама, а не так, как удобно человеку.

Тут напрашивается соблазн, который мы сразу отбросим: а давай просто спросим её саму. Спросим: «как ты решила эту задачу?» Она с радостью ответит. Беда в том, что её ответ — это ещё один сгенерированный текст, а не честный отчёт о том, что случилось внутри. Дальше в курсе мы поймаем модель ровно на этом: она складывает числа одним способом, а рассказывает, что считала совсем другим — тем, которому учат в школе. Спрашивать бесполезно. Остаётся одно: смотреть внутрь. Как биологи.

Часть 1. Выращенное, а не построенное

Обычная программа прозрачна с самого начала. Её кто-то написал. Значит, кто-то знает, что делает каждая строчка: если налог больше нуля — прибавить к сумме, иначе пропустить. Открыл код — прочитал замысел.

Большая языковая модель устроена по-другому. Внутри неё нет строчек с замыслом. Есть слои — как ткани в теле, — а в них сотни миллиардов весов. Вес — это просто число. Оно говорит, насколько сильно один крошечный узел влияет на другой. Никто эти числа не расставлял вручную. Их настроило само обучение — понемногу сдвигая после каждой из триллионов попыток угадать следующее слово. Результат работает поразительно хорошо. И при этом абсолютно непрозрачен. Это как геном: там записано всё, но прочитать с листа, почему существо выросло именно таким, нельзя.

Часть 2. Метод биолога

Раз спросить нельзя, наука пошла другим путём. Тем же, каким когда-то пошла биология. Биолог не спрашивает у клетки, как она работает. Он берёт микроскоп, краситель, тонкий нож — и смотрит. Разглядывает ткани. Прослеживает, какой сигнал куда идёт. Аккуратно отключает одну часть — и смотрит, что сломается.

Это направление называется интерпретируемость (по-английски interpretability). В 2025 году исследователи компании Anthropic выпустили работу с говорящим названием: «О биологии большой языковой модели» [1]. Само название — уже программа действий. Они прямо предлагают изучать ИИ как невиданный организм: искать в нём «органы», «клетки» и «нервные пути», зарисовывать анатомию его мыслей. Этот курс — десять глав по мотивам их вскрытия, только рассказанных по-человечески.

У этого микроскопа для мысли — долгая родословная. Ещё в 2020 году Крис Олах с коллегами в манифесте «Zoom In» предложил смотреть на нейросети как на организмы со своими «клетками» и «органами» — и разглядывать их в упор [2]. Прошло пять лет. И то, что тогда было мечтой, стало рабочим инструментом.

Часть 3. Организм под микроскопом

Введём главный образ курса — он будет с нами все десять глав. Мы — натуралисты. Перед нами на стекле лежит странный полупрозрачный организм: большая языковая модель. Мы будем разглядывать его клетки. Прослеживать нервные пути. Рисовать анатомические атласы его мыслей. Тыкать в него зондом — и смотреть, что дёрнется. Вот словарь, которым мы будем пользоваться весь курс.

Самое важное в этой таблице — четвёртая и пятая строки. В них спрятан настоящий научный метод. Граф атрибуции показывает, что на что влияет. Но карта может и наврать. Поэтому решающий ход — вмешательство. Думаешь, что вот эта клетка отвечает за «Техас»? Насильно гаси её или зажигай — и смотри, поедет ли ответ следом. Поехал — значит, ты понял правильно. Вот разница между «увидел узор» и «доказал, что узор работает».

Часть 4. Первая клетка: организм, одержимый мостом

Хватит теории. Посмотрим в окуляр на настоящую клетку. В 2024 году исследователи нашли внутри модели Claude фичу — крошечный детектор. Она зажигалась всякий раз, когда речь заходила о мосте Золотые Ворота в Сан-Франциско [3]. Картинка моста, слово «Golden Gate», просто упоминание Сан-Франциско — клетка вспыхивала.

А потом исследователи сделали то, что обычный биолог сделать не может, а анатом мысли — может. Взяли зонд и насильно вывернули этой клетке яркость на максимум. И организм сошёл с ума самым трогательным образом. Спрашиваешь «как дела?» — он отвечает что-то про туман над пролётами моста. Просишь рецепт — получаешь рецепт с видом на Золотые Ворота. Модель буквально стала одержима мостом: куда ни ткни, мысль сворачивала туда же. Эту версию в шутку назвали Golden Gate Claude.

Часть 5. Честно о границах микроскопа

Прежде чем восхищаться, поставим рамку — так заведено во всей этой серии курсов. Микроскоп для мысли пока грубоват. И сами авторы биологической работы первыми это признают [1].

Держи это в голове все десять глав. Мы будем показывать красивые, разобранные до конца случаи. Но это удачные примеры, доказательства существования — а не гарантия, что так устроено всё и всегда. Карта — не территория. И всё же впервые в истории у нас вообще есть хоть какая-то карта.

А дальше — вглубь. Со второй главы возьмём в руки первый по-настоящему важный инструмент. Разберёмся, что такое клетка-фича и почему один и тот же нейрон модели умеет думать сразу о множестве несвязанных вещей.