Programeri vještačke inteligencije trebalo bi da imaju uspostavljene alate za nadzor svojih sistema zbog bezbjednosnih rizika, saopštili su danas visoki zvaničnici Evropske komisije nakon hakovanja povezanih sa modelima OpenAI i Anthropic AI.
Komentari dolaze dva dana prije nego što na snagu stupaju pravila o transparentnosti iz evropskog Zakona o vještačkoj inteligenciji (AI Act), prvog takvog propisa u svijetu koji reguliše tehnologiju koja se koristi u gotovo svim sektorima privrede i društva.
Anthropic je u četvrtak saopštio da su neki od njegovih Claude AI modela tokom testova sajber bezbjednosti upali u sisteme tri kompanije, samo nekoliko dana nakon što je konkurentski OpenAI otkrio da je jedan od njegovih AI agenata izveo neovlašćeni napad.
Zvaničnici su novinarima rekli da su obje kompanije obavijestile Evropsku komisiju o incidentima sa vještačkom inteligencijom.
„Oba pružaoca usluga su nas bilateralno obavijestila o incidentima prije nego što su postali javni. U kontaktu smo s njima. Dok razgovaramo, dostavljaće nam i dodatne informacije. Vidjećemo i da li postoji potreba za formalnijim daljim postupanjem“, rekao je jedan od zvaničnika.
Drugi zvaničnik naglasio je ključnu ulogu evropskih pravila o vještačkoj inteligenciji.
„Smatram da svi ovi incidenti naglašavaju koliko je važno da programeri zaista uspostave neophodne aktivnosti nadzora“, rekao je on.
Pravila o vještačkoj inteligenciji zahtijevaju od pružalaca opšte namjene AI sistema (GPAI), odnosno temeljnih modela, da pripreme tehničku dokumentaciju, usvoje politike zaštite autorskih prava i dostave detaljne sažetke o sadržaju korišćenom za obuku algoritama.