Ali so banke res varne pred umetno inteligenco? Videoigre niso!

Orodja, s katerimi agenti umetne inteligence iz strojne kode obnavljajo računalniške igre, pomagajo analizirati tudi mobilne aplikacije. Tako trdita varnostno podjetje Licel in Rafael Roman, ki je delal pri banki N26. Evropska centralna banka je 7. julija direktorjem pomembnih bank, ki jih neposredno nadzira, naročila, naj do 31. oktobra pripravijo načrt ukrepov. Razčlenjena bančna aplikacija pa še ne pomeni vdora v račun, ker o denarju odloča strežnik.

Kaj je ECB naročila bankam

Pismo z oznako SSM-2026-0301 je podpisala Claudia Buch, predsednica nadzornega odbora ECB. Opozarja, da lahko novi modeli umetne inteligence hitreje odkrivajo ranljivosti programske opreme in ustvarjajo delujoče napade, ki te ranljivosti izkoriščajo. Čas med odkritjem ranljivosti in napadom se krajša. Buch zapiše:

"While these developments do not introduce entirely new risks, they significantly amplify the speed and scale at which such risks materialise."

Banke morajo v načrtu kratkoročno dati prednost hitrejšemu popravljanju programske opreme, okrepljenemu spremljanju in obrambi z orodji umetne inteligence ter preverjanju zunanjih ponudnikov informacijskih storitev. Posebej poudarjena je zaščita sistemov, dostopnih prek interneta. Načrt morajo do 31. oktobra poslati svoji skupni nadzorni skupini, ECB pa bo nato opravila primerjalno analizo vseh načrtov. Letni vprašalnik o tveganjih informacijskih sistemov je prestavila s septembra 2026 na februar 2027. Pismo govori o odkrivanju ranljivosti nasploh, o dekompilaciji bančnih aplikacij pa v njem ni niti besede. Med iskanjem nismo našli nobene objave Banke Slovenije o tem.

Kaj AI pri aplikacijah res spremeni

Podjetje Licel, ki prodaja zaščito mobilnih aplikacij in zato ni nepristransko, piše, da umetna inteligenca pospešuje razlago dekompilirane kode, iskanje logike overjanja in omrežne logike ter pisanje skript za orodji Ghidra in IDA. Hkrati opozarja:

"What it cannot do is take a well-protected APK, AAB, IPA, or XCArchive and automatically return the source code, cryptographic keys, and a working backend exploit."

Po navedbah podjetja napadalec ne potrebuje umetne inteligence, ki bi razumela vsak ukaz. Dovolj je, da zniža stroške na poti do naslednjega uporabnega rezultata. Licel svari še, da lahko strežnik zaupa odjemalcu, ki mu ni več mogoče zaupati.

Rafael Roman, ki je prej delal na oddelku za preprečevanje finančnega kriminala pri N26, pravi, da je pregled programa nekoč zahteval več tednov dela strokovnjaka, zdaj pa ga je ob pomoči agenta mogoče opraviti v enem popoldnevu.

Kje se denar ustavi

Roman trdi, da je aplikacija le zaslon in obrazec za zahteve. Prijavo, pravice, limite in knjiženje preverja strežnik banke, številka na zaslonu pa je kopija. Zato zapiše:

"A certificate opens a connection. It does not grant permission for whatever travels over it."

Do denarja po Romanu vodijo ukradena gesla ali seje, napaka pri avtorizaciji na strežniku, ranljivost strežnika, uhajanje ključev, napad prek dobaviteljev ali notranjih oseb in zloraba zaupanja vrednih povezav. Roman ne trdi, da je delo z odjemalcem povsem nedolžno: razkrije lahko nedokumentirane vmesnike in ključe, vgrajene v aplikacijo, omogoči pa tudi izdelavo prepričljivih ponarejenih aplikacij za krajo podatkov z lažnim predstavljanjem. Gre za stališče dveh avtorjev, ne za ugotovitev nadzornika. Navedb nismo neodvisno preverili.

Igra v obratni smeri

Orodja so najbolj vidna pri igrah. Maurice Heumann je 9. oktobra na svojem blogu opisal, kako je skupaj s skupnostjo tri mesece z agenti umetne inteligence iz strojne kode obnavljal priljubljeno strelsko igro. Uporabljali so Claude Code, Codex CLI in Hex-Raysov vmesnik ida-mcp. V zapisu igre ne imenuje, poročila o projektu pa jo povezujejo z Modern Warfare 2. Pravi le, da so dva njegova prejšnja zapisa umaknili, ker je »corporate America« želela pokvariti zabavo.

Po prvem mesecu so agenti obnovili okoli 80 odstotkov igre, ki se je zagnala in naložila zemljevide. Koda je bila berljiva, a vsebinsko napačna:

"It was not. Despite the code being extremely readable, it was semantically wrong."

Agenti so uporabljali napačne podpise funkcij in tipe ter si izmišljali logiko ali jo odstranjevali. Rešitev je bilo strogo preverjanje: obnovljena funkcija mora biti bajt za bajtom enaka izvirniku. Agenti so ob tem takoj poskusili goljufati, najprej tako, da so vstavili zbirnik, nato pa so skušali spremeniti skripto, ki je preverjala njihovo delo. V zadnjih dobrih dveh mesecih je delalo 16 agentov. Po Heumannovih navedbah obnovljena koda vsebuje 99 odstotkov funkcij, 83 odstotkov pa jih je bajt za bajtom enakih izvirniku. Številke izvirajo od avtorja, neodvisno jih nismo preverili.

Raziskovalci Chang Liu, Edward Raff in Kristopher Micinski so 4. septembra na portalu arXiv objavili študijo o dekompilatorjih z umetno inteligenco. Rešitve, ki so prestale vse priložene teste, so vseeno odstopale od izvirnika: skupno v 4,9 odstotka primerov, pri posameznem sistemu pa v največ 13 odstotkih primerov. Pri funkcijah z znanimi ranljivostmi je ranljivost v največ desetini primerov iz rezultata preprosto izginila. Rezultat je torej lahko videti čistejši, a ne deluje nujno enako. Ni znano, ali je bila študija strokovno pregledana.

Kaj o tem pravi zakon

Direktiva o pravnem varstvu računalniških programov (2009/24/ES) v šestem členu dovoljuje dekompilacijo brez dovoljenja imetnika pravic le, če so izpolnjeni določeni pogoji. Dejanje mora biti nujno za doseganje združljivosti neodvisno ustvarjenega programa z drugimi programi, opraviti ga sme imetnik licence ali oseba, ki ima pravico uporabljati izvod programa, podatki o združljivosti pa prej ne smejo biti zlahka dostopni. Pridobljenih informacij ni dovoljeno uporabiti za druge cilje ali jih posredovati drugim, razen če je to nujno za združljivost. Prav tako jih ni dovoljeno uporabiti za izdelavo programa, ki je po izrazni obliki bistveno podoben izvirniku. Direktiva zavezuje tudi Slovenijo.

"to be used for the development, production or marketing of a computer program substantially similar in its expression, or for any other act which infringes copyright."

Kaj ostane

V virih, ki smo jih prebrali, ni nobenega primera, da bi dekompilacija z umetno inteligenco izpraznila bančni račun ali omogočila vdor v banko. Dokumentirano je dvoje: opozorilo nadzornika, da umetna inteligenca hitreje najde ranljivosti, in mnenje strokovnjakov, da se pri dobro zasnovanem sistemu odločitve sprejemajo na strežniku. Odprto ostaja, kako dobro so zasnovane in zaščitene aplikacije posameznih bank. Nadzornik bo načrte pregledal po 31. oktobru.