În cadrul studiului a fost subliniată importanța învățării recunoașterii persoanelor artificiale — o abilitate cheie pentru îmbunătățirea securității digitale și combaterea dezinformării.
Cuprins
Ritmul vertiginos de dezvoltare al inteligenței artificiale generative estompează granițele dintre conținutul sintetic și cel real. Putem determina dacă o față a fost creată cu ajutorul IA sau dacă este fotografia unei persoane reale? Deși această abilitate scade constant odată cu dezvoltarea tehnologiilor, un nou studiu propune o strategie care poate contribui la îmbunătățirea ei. Cheia succesului este antrenarea vederii noastre.
Cercetătorii de la Universitățile din Leeds și Reading (Marea Britanie) au publicat un studiu care testează capacitatea oamenilor de a recunoaște dacă o față a fost creată cu ajutorul unui generator de inteligență artificială . Vestea bună este că o perioadă scurtă de antrenament îmbunătățește semnificativ această capacitate.
Fețe generate cu ajutorul inteligenței artificiale: „Antrenamentul ajută la recunoaștere”.
„Crearea de conținut generat cu ajutorul IA devine mai ușoară, iar detectarea acestuia devine mai dificilă”, a remarcat Eilidh Noakes, cercetătoare în domeniul psihologiei la Universitatea din Marea Britanie. Ea a explicat că această dificultate nu este trivială, deoarece conținutul sintetic poate fi utilizat în scopuri rău intenționate. „De aceea, din punct de vedere al securității, este extrem de important să se testeze metodele de identificare a imaginilor artificiale”, a adăugat ea.
Problemele menționate variază de la încercări de atacuri cibernetice la conținut publicat cu scopul de a discredita terțe persoane , la problema dezinformării și utilizării conținutului înșelător, și acestea sunt doar câteva dintre ele.
Recentul scandal legat de generatorul de fotografii de pe rețeaua socială X , care crea imagini cu corpuri nud fără consimțământul proprietarului, a scos la iveală unele dintre aceste riscuri.
În cadrul studiului, au fost testate abilitățile de evaluare ale 664 de voluntari, inclusiv ale unor „super-recunoscători” – persoane care au demonstrat un nivel mai ridicat de competență în detectarea imaginilor sintetice ale persoanelor . Deși ambele grupuri au întâmpinat dificultăți în îndeplinirea acestei sarcini, grupul cu abilități mai ridicate a obținut, așa cum era de așteptat, rezultate mai bune.
După cum am menționat deja, strategia cheie este antrenamentul. Au fost incluși în categoria „super-recunoscători” participanții care au urmat o sesiune de antrenament înainte de testarea generală. Vestea bună este că acest antrenament a durat doar cinci minute.
Voluntarilor li s-au pus întrebări specifice pentru a putea recunoaște fețele sintetice. De exemplu, în imaginea următoare, care rânduri arată fețe generate de IA și care corespund persoanelor reale?
Răspunsul corect arată cât de dificil este să recunoști fețele generate cu ajutorul inteligenței artificiale : după cum se menționează în publicația Science Alert , doar rândul din mijloc corespunde persoanelor reale .
Recunoașterea fețelor sintetice: cum se antrenează această abilitate?
Participanților care au urmat cursuri de formare pentru cercetare li s-au explicat unele semne care permit recunoașterea unei fețe create cu ajutorul IA . De exemplu, o estompare abia vizibilă, dar recognoscibilă, la marginile părului și ale pielii.
Conform sursei, IA creează de obicei fețe cu ajutorul așa-numitei „rețele generative competitive” (GAN). Cum funcționează aceasta? Două seturi de algoritmi interacționează: unul generează fețe, iar celălalt evaluează realismul creațiilor sale, comparându-le cu persoane reale. Această interacțiune permite obținerea unor rezultate foarte realiste.
Potrivit lui Nojes, testele efectuate de ei arată că instruirea ajută IA să recunoască fețele și, astfel, îi permite să evite înșelăciunea.
Katie Gray de la Universitatea din Reading a remarcat că calibrarea ochiului este un proces rapid și ușor de implementat. „Rezultatele arată că combinarea acestui antrenament cu abilitățile naturale ale super-recunoscătorilor poate ajuta la rezolvarea problemelor reale, cum ar fi verificarea identității online”, a subliniat ea.
