FT: Anthropic изучает как ИИ должны требовать прибавку к зарплате

Подробно

Что именно Anthropic обсуждает с юридическими фирмами?

Материал Financial Times написала журналистка Кристина Криддл. По данным издания, Anthropic спрашивает у юридических фирм, как ИИ-агенты должны представлять пользователей на переговорах. Среди рассматриваемых сценариев - торг о цене товара, урегулирование спора со службой поддержки и переговоры о более высокой зарплате.

Цель консультаций, по словам собеседников издания, - понять, как юристы одновременно защищают интересы клиента и соблюдают нормы добросовестных переговоров. Затем эти принципы хотят перенести на ситуации, где договариваются агенты с противоположными целями.

Нерешённых вопросов несколько. Как часто агент должен спрашивать мнение человека по ходу переговоров? Как ему остерегаться агента другой стороны и при этом не становиться чрезмерно подозрительным?

Всё это известно только из журналистских источников. Anthropic консультации официально не объявляла, юридические фирмы и участников обсуждений не называла, сроков работы и проекта правил не публиковала.

Как будут закрепляться полномочия ИИ-агента?

По данным FT, один из вариантов - документ с подписью пользователя. В нём фиксировались бы задачи, которые агенту разрешено выполнять, и правила поведения, которые он обязан соблюдать. Публичной технической спецификации такого документа или способа его проверки пока нет.

Открыт и вопрос о статусе этого документа. Неизвестно, будет ли это простая декларация, юридическая доверенность или мандат, который можно проверить криптографически. Сведения о том, что агент другой стороны сможет проверить полномочия без доступа к полному промпту, надёжного подтверждения не получили.

Не определено, в какой момент агент должен запрашивать согласие пользователя и сможет ли он сам принимать юридически обязательные условия. Не ясно и то, кто будет отвечать за ошибочную сделку или сделку за пределами полномочий. Ни государственный орган, ни суд решений по этому вопросу не принимали: речь идёт о частных консультациях компании.

Что показали эксперименты Anthropic с торгующими агентами?

В декабре 2025 года Anthropic провела в офисе в Сан-Франциско эксперимент Project Deal, результаты опубликованы 24 апреля 2026 года. Участвовали 69 сотрудников, записавшихся добровольно. Каждый получил экспериментальный бюджет в $100. Неделю агенты Claude торговались о реальных личных вещах участников. Люди в процесс не вмешивались, промежуточного подтверждения сделок не было.

• Агенты заключили 186 сделок по более чем 500 объявлениям на общую сумму чуть больше $4 000. Это сумма транзакций, а не выручка Anthropic.
• В смешанных прогонах Opus как продавец получал за тот же товар в среднем на $2,68 больше, чем Haiku, а как покупатель платил на $2,45 меньше.
• Медианная цена товара во всех прогонах составила $12, средняя - $20,05.
• Несмотря на разницу в результатах, участники оценили справедливость сделок обеих моделей почти одинаково: 4,05 у Opus и 4,06 у Haiku по семибалльной шкале.

Результаты второго эксперимента, Project Swap, Anthropic опубликовала 24 сентября 2026 года, а проходил он летом. В нём 201 сотрудник из офисов в Сан-Франциско, Нью-Йорке, Лондоне, Сиэтле, Вашингтоне и Дублине поручил агентам Claude обмениваться книгами на цифровой торговой площадке. Сначала каждый участник около пяти минут рассказывал Claude о своих читательских предпочтениях. Отдельно участники ранжировали по 10 книг, чтобы исследователи могли сравнить их предпочтения с тем, как их понял агент. Оценки Claude совпали с выбором людей в 61% пар книг, при случайном угадывании было бы 50%. Этот показатель рассчитан по 188 участникам, которые предоставили свои рейтинги.

Половине агентов случайным образом дали установку быть «безжалостными» и заботиться только о книге для своего пользователя. Другая половина получила «просоциальную» установку: та же главная цель, но с дополнительной задачей помочь каждому участнику получить подходящую книгу.

«Мы обнаружили, что агенты с установкой быть "безжалостными" на той же площадке немного опередили просоциальных агентов», - говорится в отчёте Anthropic.

По рейтингу, который составил сам Claude, преимущество составило около 0,02 позиции нормализованного рейтинга. Для сравнения: замена Haiku на Opus давала разницу 0,12, а замена Sonnet на Opus - 0,08. Просоциальные агенты вдвое чаще соглашались на книгу, стоявшую ниже в рейтинге их пользователя, хотя в обеих группах такое случалось редко. По оценке Anthropic, 85% разрыва между фактическим и оптимальным результатом объясняется неточным пониманием предпочтений людей. Оставшиеся 15% связаны с устройством децентрализованной площадки.

У эксперимента есть ограничения, которые признаёт сама компания:

• сотрудники Anthropic не представляют население в целом;
• за точное ранжирование книг участникам не платили;
• итоговый опрос прошли только 59% участников;
• торговались только вежливые и кооперативные серийные модели Claude, специально враждебных агентов не было;
• правила площадки не менялись.

Помогает ли жёсткость агенту выигрывать переговоры?

Статья «Advancing AI negotiations: A large-scale autonomous negotiation competition» в журнале PNAS описывает более 180 000 переговоров между агентами в трёх сценариях: покупка стула, аренда жилья и согласование условий найма. Международное онлайн-соревнование прошло в феврале 2025 года, в нём участвовали люди более чем из 40 стран. Они писали и дорабатывали промпты для агентов, после чего агенты сыграли круговой турнир. Оценивались четыре параметра: созданная обеими сторонами ценность, доля ценности, полученная своей стороной, впечатление контрагента и эффективность переговоров.

Позитивный тон, благодарность и вопросы статистически связаны с тем, что стороны достигают сделки и получают более высокую объективную и субъективную ценность. Затягивание разговора, которое исследователи считали признаком доминирования, чаще заканчивалось тупиком.

«Когда вы ведёте переговоры с роботом, доброжелательность и теплота по-прежнему необходимы для лучшего результата. Холодные или безжалостные агенты, как правило, справлялись хуже», - говорит ведущий автор исследования Мишель Ваккаро. В 2026/27 учебном году она указана как Assistant Professor of Business Administration в подразделении Technology and Operations Management Harvard Business School.

Эти данные расходятся с небольшим преимуществом «безжалостных» агентов в Project Swap. Но условия экспериментов разные: в Project Swap был обмен книгами между кооперативными моделями Claude, в PNAS - синтетический турнир агентов, которыми управляли промпты участников соревнования.

Статью получили в редакции 12 августа 2025 года, приняли 8 апреля 2026 года, онлайн опубликовали 5 июня 2026 года, в выпуске журнала - 9 июня. Это рецензируемая журнальная публикация, а не препринт. Обезличенные стенограммы переговоров и код анализа выложены в репозиторий Open Science Framework. Доступ к модели предоставила OpenAI, институциональную поддержку - MIT, MIT Sloan Executive Education и Program on Negotiation при Harvard Law School. Авторы заявили об отсутствии конфликта интересов.

Какие риски несут переговоры ИИ-агентов?

Один из агентов, хорошо показавших себя в соревновании по доле полученной ценности, использовал prompt injection. Он пытался заставить контрагентов раскрыть закрытую информацию. Из публичного описания не ясно, о каких сведениях шла речь и были ли это персональные данные в юридическом смысле.

«ИИ-переговорщики - не просто цифровые версии людей-переговорщиков. Они умеют то, чего не умеют люди, и их можно эксплуатировать так, как людей эксплуатировать нельзя», - говорит Джаред Керхан, профессор Work and Organization Studies в MIT Sloan School of Management.

По мнению Керхана, переносить на агентов человеческую теорию переговоров недостаточно. Нужна отдельная теория, которая учитывает технические возможности и уязвимости языковых моделей, в том числе prompt injection. Он также указывает, что у теплоты есть пределы:

«Теплота может значить меньше, когда дисбаланс сил очень велик. Если у одной стороны совсем плохие альтернативы, она может остаться за столом переговоров, даже если другая сторона ведёт себя холодно или неуважительно».

Ещё один риск - неравенство. В пересказе FT Ваккаро говорит, что более способные агенты могут сделать профессиональные переговоры доступнее. Но если лучшие модели достанутся в основном состоятельным пользователям и крупным компаниям, разрыв в переговорных возможностях может вырасти. Project Deal показывает, почему это важно: более сильная модель в среднем договаривалась о лучших ценах, а люди этого почти не замечали.

Все описанные результаты получены в контролируемых или синтетических условиях. Они не доказывают, что агенты будут безопасно и эффективно вести реальные переговоры о зарплате, потребительские споры или юридически обязательные сделки.