CEO-ul Palantir, Alex Karp, greșește în privința amenințării pe care Anthropic și OpenAI o reprezintă pentru majoritatea întreprinderilor. Asta nu înseamnă că nu are ceva de pierdut.

Bună ziua și bine ați venit la Eye on AI. În această ediție:

• De ce CEO-ul Palantir, Alex Karp, greșește în privința laboratoarelor de IA de frontieră.
• Ransomware-ul autonom este aici, susține o firmă de securitate cibernetică.
• China ia în considerare restricționarea accesului străin la modelele de IA de top.
• Anthropic descoperă că o parte din funcțiile LLM-urilor seamănă cu un aspect al conștiinței umane.
• Standardele de siguranță pentru IA se degradează, potrivit unui raport.

Săptămâna aceasta, avem câteva știri interesante chiar aici, la Fortune. Lansăm un nou vodcast numit Fortune AI Weekly, pe care îl prezint împreună cu Bea Nolan. Îl puteți considera o extensie a ceea ce facem noi la Eye on AI — aducându-vă opiniile noastre despre cele mai importante știri din domeniul IA ale săptămânii, evidențiind unele dintre reportajele excelente ale Fortune despre IA și oferindu-vă uneori interviuri exclusive cu constructori cheie, gânditori, fondatori, investitori și lideri din domeniul IA. Puteți viziona vodcastul pe canalul nostru de YouTube aici.
***
Printre știrile din domeniul IA care au făcut titlurile săptămâna trecută s-a numărat tirada lui Alex Karp împotriva companiilor de modele fundamentale. CEO-ul Palantir a apărut miercuri la CNBC, aparent pentru a discuta despre un nou parteneriat între Palantir și Nvidia pentru a furniza o „infrastructură suverană de IA” guvernului SUA și industriilor critice. Colaborarea implică utilizarea modelelor open-source Nemotron de la Nvidia, împreună cu Platforma de Inteligență Artificială (AIP) a Palantir, care este un strat de aplicații ce conectează aceste modele la date, oferind totodată securitatea și guvernanța datelor. Dar nu acesta este aspectul care a ajuns în titluri. Mai degrabă, după ce și-a început remarca spunând că „nu aruncă umbre” asupra OpenAI și Anthropic, Karp a continuat să arunce umbre de nivel Mordor asupra laboratoarelor de IA de frontieră.
„Ceva a mers complet greșit”, a spus el. „Viziunea de bază printre întreprinderile din această țară este: ‘Mă voi relaxa și îmi voi pierde timpul cu token-uri, nu voi obține nicio valoare, iar ei îmi vor fura proprietatea intelectuală.’” Apoi a spus că aceasta nu era o critică ascunsă, ci „raportare”. A insistat asupra acestor puncte de mai multe ori, afirmând că companiile nu obțin nicio valoare din token-urile pe care le achiziționează de la laboratoarele de frontieră și că riscă să transfere proprietatea intelectuală crucială a afacerii lor către acești furnizori de IA.
Deci, are Karp dreptate? Ei bine, într-o anumită măsură. Dar doar dacă te uiți atent. Și multe dintre cele spuse de Karp erau fie interesate, inexacte sau contradictorii — sau toate trei.

ROI-ul întârzie, dar nimeni nu se „relaxează” în privința asta

Este adevărat că multe companii mari sunt îngrijorate că încă nu văd un randament suficient al investiției din implementarea IA și sunt preocupate de costul token-urilor, în special atunci când utilizează cele mai avansate modele de IA în cazuri de utilizare agențială. (Faptul că multe companii mari sunt îngrijorate de acest aspect contrazice afirmația lui Karp conform căreia ele pur și simplu „se relaxează”.) Cu siguranță, unele companii raportează valoare — în special în dezvoltarea software-ului și serviciile pentru clienți. Iar pentru cele care nu o fac, acest lucru se datorează adesea faptului că nu au prioritizat cazurile de utilizare esențiale din punct de vedere strategic sau nu au găsit modalități de a reingineria fluxurile de lucru în întreaga companie pentru a profita la maximum de tehnologie.
La un moment dat în interviul de la CNBC, Karp a spus: „de ce percep taxe pentru token-uri, dacă sunt atât de valoroase?” El a sugerat că, dacă modelele fundamentale ar funcționa la fel de bine cum susțin furnizorii de modele de IA, ar fi mai bine să ofere finalizarea unei sarcini complete pentru client și să perceapă un procent din valoarea obținută. Acesta este, de fapt, modul în care Palantir își prețuiește ofertele (deci iată partea interesată). Și este ceea ce multe companii de consultanță care vând servicii de IA încep acum să facă. Dar cu siguranță nu așa a fost tradițional prețuit software-ul. De asemenea, are puțin sens ca o tehnologie de uz general să utilizeze un model de afaceri bazat pe valoare. La urma urmei, compania de electricitate vă facturează pentru fiecare unitate de electricitate consumată, nu pentru valoarea a ceea faceți cu acei electroni. Microsoft, de altfel, vă percepe o sumă fixă pentru utilizarea Microsoft Word și Excel — nu încearcă să vă taxeze cu un procent din afacerea câștigată deoarece prezentarea PowerPoint a impresionat în întâlnirea de pitch.
În plus, dacă Karp spune că una dintre principalele plângeri ale întreprinderilor față de laboratoarele de IA de frontieră este că acestea „fură alpha” (adică fură know-how-ul care oferă unei afaceri avantajul competitiv), aceasta ar fi o problemă și mai mare într-un model de afaceri în care companiile de IA executau sarcini pentru clienți, în loc să le vândă token-uri. (Aceasta este o altă contradicție din cele spuse de el.) Unele firme de consultanță și unii furnizori de cloud oferă servicii gestionate pentru clienți — dar clienții sunt de obicei dispuși să externalizeze doar sarcinile pe care le consideră non-esențiale pentru afacerea lor.

Puține dovezi că laboratoarele de IA „fură alpha”

În ceea ce privește argumentul lui Karp conform căruia laboratoarele de frontieră fură proprietatea intelectuală de la clienți, nu există dovezi că acest lucru este literalmente adevărat, cel puțin nu în modul în care părea să sugereze Karp. Principalii furnizori de IA au toate politici care stipulează că nu au acces direct la prompturile, ieșirile sau datele clienților enterprise și că nu folosesc aceste interacțiuni pentru a antrena modele viitoare, cu excepția cazului în care acei clienți optează în mod specific pentru a permite furnizorului să facă acest lucru. (Mai multe despre acel caz special într-o clipă.)

Tanto OpenAI, cât și Anthropic menționează utilizarea datelor anonimizate și deidentificate ale clienților pentru a efectua cercetări economice privind modul în care sunt utilizate modelele lor, dar chiar și acest lucru se face doar pentru traficul de mesaje care intră în serviciile lor orientate către consumatori sau API-urile lor directe, și nu pentru clienții care accesează modelele prin servicii cloud securizate, cum ar fi Microsoft Azure, Amazon Bedrock sau Google Vertex — care este modul în care majoritatea întreprinderilor mari accesează aceste modele.
Astfel, pentru majoritatea afacerilor mari, în special pentru cele care nu activează în sectorul tehnologic, ceea ce afirmă Karp este nonsens. Dacă sunteți Archer-Daniels-Midland sau Boeing, șansele ca Anthropic să vă fure proprietatea intelectuală și să înceapă să producă porumb sau să fabrice avioane jumbo sunt minime.

Totuși, câteva companii au motive de îngrijorare — Palantir este una dintre ele

Dar există o categorie de afaceri pentru care Karp ar putea avea dreptate. Anthropic, OpenAI și Google DeepMind au toate „parteneri de design” în diverse industrii, iar acești parteneri primesc adesea acces timpuriu pentru a ajuta la testarea celor mai recente modele la care lucrează aceste laboratoare de IA. Și, ca parte a acestor parteneriate, laboratoarele au adesea mult mai mult acces la informații despre modul în care aceste întreprinderi utilizează modelele.
A existat cel puțin un caz în care acel acces ar fi putut fi folosit de unul dintre laboratoarele de IA pentru a construi un produs concurent. Acest caz implică Anthropic și Figma. După cum a raportat The Information luna trecută, Anthropic colaborase atât cu Figma, cât și cu Canva la dezvoltarea unui instrument Claude for Design. Mike Kreiger, directorul de produs al Anthropic, a avut chiar un loc în consiliul de administrație al Figma. Dar apoi Figma s-a retras de la lansare, iar Kreiger a demisionat brusc din consiliu după ce Figma a descoperit că produsul construit de Anthropic concura mult mai direct cu propriile sale funcționalități de produs decât lăsase Anthropic să se înțeleagă, cel puțin din perspectiva Figma. Conform raportării The Information, CEO-ul Figma, Dylan Field, le-a spus participanților la un eveniment privat găzduit de Sequoia Capital că Anthropic nu a fost „constant sinceră în comunicările” sale cu Figma privind amploarea instrumentului de design Claude.

Alte presupuse exemple de furnizori de IA care folosesc accesul la datele clienților pentru a concura ulterior cu acești clienți provin din surse care au conturi de reglat — mulți dintre ei fiind investitori în Palantir. Investitorul de capital de risc Jason Calacanis, un susținător anterior al Palantir, a susținut că Anthropic a folosit date de la Cursor, un asistent de codare AI care era un utilizator intens al modelelor Claude ale Anthropic, pentru a ajuta la dezvoltarea Claude Code, produsul viral al Anthropic care a eclipsat apoi popularitatea Cursor. Investitorul de capital de risc Chamath Palihapitiya a subliniat că Anthropic a făcut parteneriate cu Eli Lilly și alte companii farmaceutice, înainte de a anunța recent că intenționează să își înceapă propriul program de dezvoltare a medicamentelor. (Anthropic a caracterizat acest lucru ca o modalitate de a-și perfecționa propriile instrumente Claude of Science și nu este clar dacă Anthropic ar încerca să comercializeze ea însăși candidații la medicamente sau ar face parteneriat cu o companie farmaceutică pentru acea parte a procesului.) Pe lângă faptul că este un investitor timpuriu în Palantir, Palihapitiya este co-gazda podcastului „All In” împreună cu David Sacks, care nici el nu are simpatie pentru Anthropic.
Chiar și așa, acuzația că Anthropic intenționează să intre efectiv direct în toate aceste verticale, în loc să construiască pur și simplu instrumente care să faciliteze implementarea modelelor lor în aceste verticale — ceea ce nu este același lucru — pare nefondată. Din nou, dacă sunteți majoritatea companiilor din Fortune 500, Anthropic sau OpenAI nu vor începe să concureze direct cu dumneavoastră.
De fapt, cel mai bun exemplu de laboratoare de IA de frontieră care fură date pentru a construi un produs concurent provine din propria mea industrie, afacerea media. Aici, laboratoarele de IA de frontieră au aspirat definitiv volume imense de materiale protejate de drepturi de autor pentru a antrena modele de IA care concurează adesea direct cu publicațiile ca surse de informații factuale. (Același lucru se poate spune despre edituri, muzică și arte plastice.) Dar cumva nu cred că la asta se referea Karp.
Un prieten din domeniul financiar a sugerat că ceea ce l-a deranjat cu adevărat pe Karp — precum și pe unii directori executivi, în mod normal mai sobri, cum ar fi Satya Nadella de la Microsoft, care, interesant, a făcut recent unele afirmații similare despre natura prădătoare a laboratoarelor de IA de frontieră — nu sunt modelele de afaceri ale Anthropic și OpenAI, ci IPO-urile lor probabile. Acele IPO-uri vor fi, fără îndoială, foarte solicitate. Și pentru a strânge lichiditatea necesară pentru a cumpăra acțiuni OpenAI sau Anthropic, investitorii instituționali ar putea căuta să vândă alte titluri tehnologice — titluri tehnologice precum, ei bine, Palantir. Amintiți-vă că doar pentru că sunteți paranoic, nu înseamnă că nu vor să vă prindă.
Cu aceasta, iată mai multe știri despre IA.
Jeremy Kahn
jeremy.kahn@fortune.com
@jeremyakahn

Acest articol a fost publicat inițial pe Fortune.com