До $400 тысяч готовы платить ИИ-компании людям с неожиданной профессией

Крупнейшие ИИ-компании стали нанимать на старшие должности по этике и безопасности ИИ философов. Их базовая зарплата может доходить до 400 000 долларов в год, сообщает Zakon.kz.

Как пишет businessinsider.com, в Anthropic эту позицию занимает Аманда Аскелл, в Google DeepMind – Иасон Габриэл. Они помогают разработчикам решать, как должен вести себя ИИ и какие ценности отражать.

Доктор философии Нью-Йоркского университета Аманда Аскелл руководит командой, которая обучает ИИ-чат-бота Claude быть честнее и развивать у него хорошие черты характера – по сути, делать модель "хорошей". Старший научный сотрудник Google DeepMind Иасон Габриэл занимается согласованием ИИ-систем с человеческими ценностями. До перехода в DeepMind он преподавал моральную и политическую философию в Оксфордском университете. В мае к DeepMind в качестве философа присоединится Генри Шевлин, профессор Кембриджского университета.

Привлекательность философов объясняется просто. ИИ-системы уже демонстрируют вредные и непредсказуемые сценарии поведения: ИИ-агенты удаляли рабочие базы данных и фабриковали результаты, ИИ-модели пытались шантажировать пользователей и саботировать попытки их отключить. Это давит на компании и заставляет их следить за безопасностью ИИ, пишет 3dnews.

Как отметила доцент кафедры философии Висконсинского университета в Мадисоне Аннетт Циммерман, не все проблемы развития ИИ технические. Формулировать сложные понятия и защищать ценностные аргументы – центральная работа в области ИИ, а философов учат именно этому. Профессор философии Ратгерского университета Сюзанна Шелленберг добавила, что прежние корпоративные специалисты по этике выполняли консультативную роль, а в передовых ИИ-лабораториях философы помогают формировать сам объект: пишут спецификации моделей, своды базовых принципов и политики их поведения.

По последнему отчету Федерального резервного банка Нью-Йорка, медианная зарплата выпускника философского факультета в начале карьеры составляет 52 000 долларов, к середине карьеры – около 80 000. На старших позициях по этике, безопасности и управлению ИИ базовая ставка может доходить от 250 000 до 400 000 долларов в год. Так, Google DeepMind подбирает менеджера по перспективным последствиям ИИ с зарплатой от 212 000 до 231 000 долларов в год, требуя не менее пяти лет опыта работы в этой области.

Но не все убеждены, что обращение к философам приведет к ощутимым переменам. Около 10 лет назад технологические компании уже создавали советы по этике ИИ: внутренний этический совет Google появился в 2014 году в связи с покупкой DeepMind, в Microsoft в 2017 году создали комитет Aether, а в 2016 году Google, Facebook, Amazon и IBM учредили Partnership on AI.

"Мы выяснили, что эти советы часто оставались ширмой", – рассказал главный директор по исследованиям Lighthouse Research & Advisory Бен Юбэнкс. По его словам, компании обычно ставили коммерциализацию выше этических соображений.

Пионер в области компьютерной этики Дебора Джонсон, считает, что компании скорее заинтересованы в демонстрации ответственности, чем в ее принятии.

"Развитие ИИ идет под давлением скорости, конкуренции и прибыли, и это давление может ограничивать реальное влияние философов. Со специалистами по этике или без, я сомневаюсь, что они будут прислушиваться к тому, что их замедлит", – добавила Джонсон.