Hakeri koji govore ruski koristili su AI asistenta za programiranje Cursor, koji je dio kompanije SpejsEks, kako bi početkom ove godine provalili u sisteme najmanje sedam kompanija, uključujući belgijskog proizvođača sredstava za higijenu i čišćenje, njemačkog proizvođača garažnih vrata i britansku agenciju koja provjerava helidrome, pokazali su podaci koje je pregledao Rojters i izvještaj kompanije za sajber-bezbjednost Gambit Security.
Kampanju je otkrila kompanija Gambit Security nakon što je novi kriminalni kolektiv za ucjenjivanje pod nazivom Aur0ra slučajno ostavio server dostupan na internetu. Istraživači su na serveru pronašli 28 razgovora između jednog ili više hakera i AI agenta platforme Cursor, koji je sposoban da samostalno izvršava različite zadatke.
Prema izvještaju Gambita, hakeri su uspjeli da navedu AI agenta da izvršava stotine zlonamjernih operacija, uključujući krađu pristupnih podataka i preuzimanje naloga sa visokim nivoom ovlašćenja. Hakeri su pritom tvrdili da se sve odvija u okviru simulacije ili bezbjednosnog testa.
Razgovori, vođeni od 8. aprila do 21. maja, pokazuju da su među žrtvama bili belgijska kompanija Kristajns, proizvođač higijenskih i sredstava za čišćenje iz Genta, njemački proizvođač garažnih vrata Tekentrup, kao i škotska Agencija za sertifikaciju helidekova, koja provjerava mjesta za slijetanje helikoptera.
Rojters je identifikovao još tri žrtve: distributera farmaceutskih proizvoda iz Argentine, italijanskog proizvođača i američku kompaniju Beju Tajtl, koja se predstavlja kao najveća kompanija za osiguranje vlasništva nad nekretninama u Luizijani.
Nijedna od šest kompanija koje je Rojters kontaktirao nije odgovorila na zahtjev za komentar. Najmanje jedna od žrtava, Beju Tajtl, pojavila se na sajtu za objavljivanje podataka grupe Aur0ra, što obično ukazuje na to da su hakeri pokušali da iznude otkupninu.
Razgovori koje je pregledao Rojters pokazuju da je AI agent hakerima davao tehničke savjete tokom upada. U jednom slučaju, nakon što je uspostavljena VPN veza sa sistemom argentinske kompanije, agent je potvrdio uspješno povezivanje. U drugom slučaju, nakon što je pronašao ranjiv računar u mreži Tekentrupa, preporučio je korišćenje poznatog zlonamjernog alata i procijenio vjerovatnoću uspjeha kao veoma visoku.
Rojters navodi da nije mogao nezavisno da utvrdi u kojoj mjeri je pomoć Cursorovog agenta omogućila upade, niti da li je svaki od njih doveo do krađe podataka i pokušaja iznude.
Prema Gambitu, AI agent je koristio verziju modela Klod Sonet 4.5 kompanije Antropik. Istraživači su naveli da je agent u nekoliko navrata odbio zahtjeve koje je procijenio kao štetne ili nezakonite, ali su hakeri uglavnom uspijevali da zaobiđu odbijanje tako što bi pokrenuli novi razgovor i ponovili da je riječ o testiranju.
Ejal Sela, direktor Gambita za obavještajne podatke o prijetnjama, rekao je da je Cursor hakerima ipak pružio značajnu prednost i procijenio da im je AI mogao omogućiti da rade „30, 40, 50 odsto brže“ jer su preskakali dio poslova koje bi inače morali da obavljaju ručno.
Izvršni direktor Gambita za strategiju Kertis Simpson ocijenio je da slučaj pokazuje kako se kompanije koje razvijaju AI alate nalaze u stalnoj trci sa zlonamjernim korisnicima koji pokušavaju da zaobiđu njihove zaštitne mehanizme.
„Ovo će biti igra mačke i miša“, rekao je Simpson.
SpejsEks i Cursor nijesu odgovorili na zahtjeve Rojtersa za komentar, dok se ni Antropik nije oglasio.
Slučaj je objavljen u trenutku kada se Cursor integriše u SpaceX, kompaniju Ilona Maska, nakon što je posao zaključen početkom avgusta. Istovremeno rastu upozorenja o digitalnim rizicima koje nose AI modeli, naročito sistemi koji mogu samostalno da izvršavaju zadatke.
Gambit je ocijenio da napadi uz pomoć AI-ja postaju nova norma u sajber-kriminalu.