Заклинательница нейросетей: зачем философ Аманда Аскелл пытается учить Claude этике

Аманда Аскелл верит, что, если уж мир теперь помешан на нейросетях, надо учить их быть хорошими. Для этого философ и главный этик Anthropic разрабатывает для Claude конституцию, которую в компании называют «душой» модели. Егор Михайлов рассказывает, как Аскелл учит ИИ не лгать, не манипулировать и считаться с тем, что мир не бывает простым.

Кто такая Аманда Аскелл«Я только что сидел рядом с самым интересным человеком на свете», — сказал пару лет назад своему коллеге американский техножурналист Кейси Ньютон, познакомившись с Амандой Аскелл. Для мира ИИ, в котором правят технобро, она — необычная фигура: не столько потому, что женщина, сколько потому, что у нее докторская степень по философии. Проработав несколько лет в OpenAI, Аскелл перешла в Anthropic, где пять лет занимается вопросом «как должна себя вести большая языковая модель». Ее работа уже помогла Claude заслужить лучшую репутацию среди конкурентов, а в перспективе сильно повлияет на то, каким будет влияние ИИ на общество.«Когда пишешь PhD по этике, есть риск в итоге заняться чем-то другим, — рассказывает Аскелл. — Ты постоянно думаешь о добре, природе этики, проблемах мира — и вдруг понимаешь, что три года пишешь документ, который про… читать далее.