Генеральный директор Palantir Алекс Карп ошибается насчет угрозы, которую Anthropic и OpenAI представляют для большинства предприятий. Это не значит, что ему нечего терять.

Здравствуйте и добро пожаловать в Eye on AI. В этом выпуске:

• Почему генеральный директор Palantir Алекс Карп ошибается насчет передовых лабораторий ИИ.
• Автономное программ-вымогатель уже здесь, утверждает компания по кибербезопасности.
• Китай рассматривает возможность ограничения доступа иностранцев к ведущим моделям ИИ.
• Anthropic обнаруживает, что часть функций больших языковых моделей работает как аспект человеческого сознания.
• Стандарты безопасности ИИ снижаются, говорится в отчете.

На этой неделе у нас есть захватывающие новости прямо здесь, в Fortune. Мы запускаем совершенно новый подкаст с видео под названием Fortune AI Weekly, который я веду совместно с Беа Нолан. Вы можете воспринимать его как расширение того, что мы делаем в Eye on AI: делимся нашими мыслями о самых важных новостях ИИ за неделю, выделяем некоторые из лучших материалов Fortune об ИИ и иногда представляем эксклюзивные интервью с ключевыми разработчиками, мыслителями, основателями, инвесторами и лидерами в сфере ИИ. Вы можете посмотреть видео на нашем канале YouTube здесь.
***
Среди новостей об ИИ, попавших в заголовки на прошлой неделе, была резкая критика компаний, разрабатывающих фундаментальные модели, со стороны Алекса Карпа. Генеральный директор Palantir выступил на CNBC в среду, якобы чтобы обсудить новое партнерство между Palantir и Nvidia по предоставлению «суверенной инфраструктуры ИИ» правительству США и критически важным отраслям. Сотрудничество предполагает использование открытых исходных моделей Nemotron от Nvidia вместе с платформой искусственного интеллекта (AIP) от Palantir, которая представляет собой уровень приложений, соединяющий эти модели с данными, а также обеспечивающий безопасность данных и управление ими. Но это не то, что в итоге попало в заголовки. Скорее, после предварительного замечания о том, что он «не бросает тень» на OpenAI и Anthropic, Карп proceeded to toss Mordor levels of shadow at the frontier AI labs.
«Что-то пошло совершенно не так», — сказал он. «Основная точка зрения среди предприятий в этой стране такова: ‘Я буду расслабляться и тратить свое время на токены, не получу никакой ценности, а они получат мою интеллектуальную собственность’». Затем он сказал, что это не критика, а «отчетность». Он несколько раз усиливал эти пункты, заявляя, что компании не получают никакой ценности от токенов, которые они покупают у передовых лабораторий, и что они рискуют передать свою важнейшую бизнес-интеллектуальную собственность этим поставщикам ИИ.
Так есть ли доля правды в словах Карпа? Ну, отчасти. Но только если прищуриться. И многое из того, что сказал Карп, было либо эгоистичным, неточным, либо противоречивым — или всем сразу.

ROI отстает, но никто не «расслабляется» по этому поводу

Это правда, что многие крупные компании обеспокоены тем, что они еще не видят достаточной отдачи от инвестиций (ROI) от внедрения ИИ и беспокоятся о том, сколько им стоят токены, особенно при использовании самых передовых моделей ИИ в агентных сценариях использования. (Тот факт, что многие крупные компании обеспокоены этим, противоречит утверждению Карпа о том, что они просто «расслабляются».) Но безусловно, некоторые компании сообщают о ценности — особенно в разработке программного обеспечения и обслуживании клиентов. А для тех, кто этого не делает, это часто происходит потому, что они не приоритизировали наиболее стратегически важные случаи использования или не выяснили, как реорганизовать свои рабочие процессы во всей компании, чтобы наилучшим образом использовать технологию.
В какой-то момент интервью CNBC Карп сказал: «почему они берут деньги за токены, если это так ценно?» Он предположил, что если бы фундаментальные модели работали так же хорошо, как утверждают поставщики моделей ИИ, было бы лучше предложить выполнить всю задачу для клиента и взимать процент от полученной ценности. Это, по сути, то, как Palantir оценивает свои предложения (так что вот эгоистичный момент). И это то, что многие консалтинговые компании, продающие услуги ИИ, сейчас начинают делать. Но это определенно не то, как традиционно оценивалось программное обеспечение. Также мало смысла для технологии общего назначения использовать бизнес-модель, основанную на ценности. В конце концов, электрическая компания взимает с вас плату за каждую единицу использованного электричества, а не за ценность того, что вы делаете с этими электронами. Microsoft, кстати, взимает с вас фиксированную сумму за использование Microsoft Word и Excel — она не пытается взимать с вас процент от сделки, которую вы выиграли, потому что ваша презентация PowerPoint произвела впечатление на встрече.
Кроме того, если Карп говорит, что одна из главных жалоб предприятий на передовые лаборатории ИИ заключается в том, что они «крадут альфу» (т. е. крадут ноу-хау, которое дает бизнесу конкурентное преимущество), то это вызывало бы еще большую озабоченность в бизнес-модели, в которой компании ИИ выполняли задачи для клиентов, а не продавали им токены. (Это еще одно из противоречивых утверждений, которые он сделал.) Некоторые консалтинговые фирмы и некоторые облачные провайдеры действительно предлагают управляемые услуги для клиентов — но клиенты обычно готовы передавать на аутсорсинг только те задачи, которые они считают неосновными для своего бизнеса.

Мало доказательств того, что лаборатории ИИ «крадут альфу»

Что касается аргумента Карпа о том, что передовые лаборатории крадут интеллектуальную собственность у клиентов, нет доказательств того, что это буквально верно, по крайней мере, не так, как, казалось, предполагал Карп. Ведущие поставщики ИИ имеют политику, согласно которой они не имеют прямого доступа к запросам, выводам или данным корпоративных клиентов и не используют эти взаимодействия для обучения будущих моделей, если только эти клиенты специально не согласятся позволить поставщику сделать это. (Подробнее об этом особом случае чуть позже.)

И OpenAI, и Anthropic говорят об использовании анонимизированных и обезличенных данных клиентов для проведения экономических исследований того, как используются их модели, но даже это делается только для трафика сообщений, поступающего в их потребительские сервисы или их прямые API, а не для клиентов, которые получают доступ к моделям через безопасные облачные сервисы, такие как Microsoft Azure, Amazon Bedrock или Google Vertex — что является способом, которым большинство крупных предприятий получают доступ к этим моделям.
Таким образом, для большинства крупных компаний, особенно тех, которые сами не относятся к технологическому сектору, то, что утверждает Карп, является бессмыслицей. Если вы Archer-Daniels-Midland или Boeing, маловероятно, что Anthropic украдет вашу интеллектуальную собственность и начнет производить кукурузу или выпускать джамбо-джеты.

Тем не менее, у нескольких компаний есть причины для беспокойства — Palantir одна из них

Но есть категория предприятий, в отношении которых Карп может быть прав. Anthropic, OpenAI и Google DeepMind действительно имеют «дизайн-партнеров» в различных отраслях, и эти партнеры часто получают ранний доступ, чтобы помочь протестировать новейшие модели, над которыми работают эти лаборатории ИИ. И в рамках этих партнерств лаборатории часто имеют гораздо больший доступ к информации о том, как эти предприятия используют модели.
Был по крайней мере один случай, когда этот доступ мог быть использован одной из лабораторий ИИ для создания конкурирующего продукта. Этот случай касается Anthropic и Figma. Как впервые сообщило издание The Information в прошлом месяце, Anthropic сотрудничала как с Figma, так и с Canva в разработке инструмента Claude for Design. Майк Крейгер, главный продуктовый директор Anthropic, даже имел место в совете директоров Figma. Но затем Figma вышла из запуска, и Крейгер внезапно покинул совет после того, как Figma обнаружила, что продукт, который создавала Anthropic, конкурировал гораздо более напрямую с ее собственными функциями продукта, чем Anthropic, по крайней мере, по мнению Figma, признавалась. Согласно отчету The Information, генеральный директор Figma Дилан Филд сказал участникам частного мероприятия, организованного Sequoia Capital, что Anthropic была «не последовательно откровенна в своих коммуникациях» с Figma относительно масштабов инструмента дизайна Claude.

Другие предполагаемые случаи использования поставщиками ИИ доступа к данным клиентов для последующей конкуренции с этими клиентами исходят от источников, имеющих свои счеты — многие из них являются инвесторами Palantir. Венчурный капиталист Джейсон Калаканис, ранний сторонник Palantir, утверждал, что Anthropic использовала данные из Cursor, помощника по кодированию на базе ИИ, который был активным пользователем моделей Claude от Anthropic, чтобы помочь разработать Claude Code, вирусный продукт Anthropic, который затем в значительной степени затмил Cursor по популярности. Венчурный капиталист Чамат Палихапития указал, что Anthropic partnered with Eli Lilly and other pharmaceutical companies, before recently saying that it intended to start its own drug development program. (Anthropic has characterized this as a way to hone its own Claude of Science tools and it is unclear if Anthropic would try to commercialize any drug candidates itself or would partner with a pharma company for that part of the process.) Besides being an early Palantir investor, Palihapitiya is co-host of the “All In” podcast with David Sacks, who has no love lost for Anthropic either.
Тем не менее, обвинение в том, что Anthropic намерена действительно выйти непосредственно во все эти вертикали, а не просто создавать инструменты, которые облегчат развертывание их моделей в этих вертикалях — что совсем не одно и то же — кажется натянутым. Опять же, если вы большинство компаний из списка Fortune 500, Anthropic или OpenAI не начнут конкурировать с вами лицом к лицу.
На самом деле, лучший пример того, как передовые лаборатории ИИ крадут данные для создания конкурирующего продукта, приходит из моей собственной отрасли, медиа-бизнеса. Здесь передовые лаборатории ИИ определенно собрали огромные массивы материалов, защищенных авторским правом, чтобы обучить модели ИИ, которые часто напрямую конкурируют с изданиями как источниками фактической информации. (То же самое можно сказать о издательском деле, музыке и изящных искусствах.) Но почему-то я не думаю, что именно это имел в виду Карп.
Друг в финансовой сфере предположил, что то, что действительно задело Карпа — а также некоторых обычно более сдержанных руководителей, таких как Сатья Наделла из Microsoft, который, что интересно, недавно делал некоторые похожие заявления о хищнической природе передовых лабораторий ИИ — это не бизнес-модели Anthropic и OpenAI, а их вероятные IPO. Эти IPO, несомненно, будут пользоваться высоким спросом. И чтобы привлечь ликвидность, необходимую для покупки акций OpenAI или Anthropic, институциональные инвесторы могут рассмотреть продажу других технологических имен — таких как, ну, Palantir. Помните: то, что вы параноик, не означает, что за вами не охотятся.
На этом все, вот еще новости об ИИ.
Джереми Кан
[e-mail]
@jeremyakahn

Эта история изначально была опубликована на Fortune.com