V Sloveniji bi testirali izraelsko umetno inteligenco
Vladni urad za informacijsko varnost se je z izraelsko družbo Dream Security, ki so jo ustanovili nekdanji avstrijski kancler Sebastian Kurz in ključna akterja razvpitega podjetja NSO Group, dogovoril, da bodo pri nas testirali orodje za zagotavljanje nacionalne kibernetske varnosti. NSO Group je ‘zaslovela’ z vohunsko opremo Pegasus, ki so jo nekatere države uporabljale za vohunjenje za novinarji, aktivisti in politiki.
V vladnih prostorih je bila 13. julija letos sprejeta pomembna odločitev. Urad za informacijsko varnost se je z izraelsko družbo Dream Security dogovoril o preizkusu orodja Sphere v ‘laboratoriju’ sektorja SIGOV-Cert. Poročilo s sestanka, ki ga je pridobil Oštro, še kaže, da bi testiranje potekalo »na anonimiziranih podatkih, na podlagi katerih bi lahko ocenili dodano vrednost orodja«.
Predstavniki Dream Securityja so se, kot sta julija poročala Večer in TV Slovenija, srečali s predsednikom vlade Janezom Janšo, katerega kabinet je srečanje tudi organiziral. Med njimi je bil Sebastian Kurz, nekdanji avstrijski kancler, danes pa solastnik in predsednik uprave družbe Dream Security.
Janša Kurza dobro pozna. Leta 2020, ko sta bila oba na oblasti v svojih državah, sta se denimo skupaj povzpela na Triglav. Istega leta se je Janša v Izraelu sestal s predstavniki NSO Group, nekakšne predhodnice Dream Securityja.
Na julijski sestanek v Ljubljani je bil posebej povabljen tudi vršilec dolžnosti direktorja urada za informacijsko varnost (Ursiv) Niko Gamulin. V okviru Ursiva namreč deluje sektor SIGOV-Cert, ki obravnava kibernetske incidente v javni upravi na državni in lokalni ravni. Pristojen je »za subjekte, ki upravljajo informacijske sisteme in dele omrežja oziroma izvajajo informacijske storitve, nujne za nemoteno delovanje države ali za zagotavljanje nacionalne varnosti«.
Povedano bolj preprosto: SIGOV-Cert je eden izmed varnostno najbolj občutljivih delov državnega informacijskega sistema, izraelsko podjetje pa bi v njegovem laboratorijskem okolju testiralo novo kibernetsko orodje.
Čeprav je urad za informacijsko varnost julija sklenil dogovor o testiranju orodja Sphere, pa so v začetku oktobra, po prejemu vprašanj Oštra o tem, že omilili stališče, češ da še ne vedo, »kdaj in če se bo sploh začelo«.
V kabinetu predsednika vlade so bili julija še bolj zadržani in orodja Sphere niti niso poimensko opredelili. Tudi dogovora o njegovem testiranju v odgovoru na vprašanja Oštra niso omenili. Oktobra pa so pojasnili, da bi preizkušanje, če bi do njega prišlo, potekalo »izključno na testnih podatkih, v izoliranem okolju brez internetne povezave, s čimer bi bila zagotovljena ustrezna zaščita državnih podatkov in informacijskih sistemov«.
Zavezniki avtokratov
Dream Security ni zgolj eno izmed številnih izraelskih podjetij, ki po svetu ponujajo kibernetske rešitve. Med njegovimi ustanovitelji je poleg Kurza tudi Šalev Hulio, ki je bil soustanovitelj in izvršni direktor izraelske vohunske družbe NSO Group. Ta je obveščevalnim službam in policijam različnih držav za boj proti kriminalu in terorizmu prodajala razvpiti vohunski program Pegasus, ki pa je bil dejansko uporabljen tudi za sledenje zagovornikom človekovih pravic, novinarjem, znanstvenikom in politikom.
Družba Dream Security je bila ustanovljena leta 2022, štiri leta po umoru savdskega novinarja Washington Posta Džamala Hašodžija, katerega najbližji prijatelji, sodelavci in družinski člani so bili med prvimi znanimi tarčami zlorabe Pegasusa proti novinarjem oziroma njihovim bližnjim. NSO Group je vpletenost v primer Hašodži zanikala, je poročal OCCRP.
Kurz, Hulio in Izraelec Gil Dolev so najprej ustanovili podjetje z imenom Soul Security, kažejo dokumenti izraelskega poslovnega registra. Nekaj mesecev pozneje so ga preimenovali v Dream Security. Dolev je po poročanju OCCRP iz leta 2022 ustanovitelj in nekdanji izvršni direktor izraelskega obveščevalskega podjetja Wayout Group. Njegov brat Širi Dolev je bil v tistem času predsednik uprave NSO Group.
Junija letos je družba objavila novico o vrtoglavi dokapitalizaciji. Zasebni vlagatelji so vanjo vložili svežih 260 milijonov ameriških dolarjev in skupna vrednost podjetja se je povišala na tri milijarde dolarjev. Kurz je v njem s 14 odstotki delnic največji delničar. Hulio kot delničar ni neposredno udeležen, vendar ustanovni dokument podjetja ščiti njegove pravice v višini najmanj 5 odstotkov kapitala družbe.
Janša se je sicer s predstavniki NSO Group v Izraelu sestal decembra 2020, kot smo nekaj mesecev pozneje razkrili na Oštru. Takrat sta slovensko gospodarsko ministrstvo in izraelska agencija za inovacije podpisala deklaracijo, s katero so po uradnih pojasnilih postavili temelje za prihodnje bilateralno sodelovanje na področju visokih tehnologij in inovacij.
Nekoliko pozneje, leta 2022, je Hulio podjetje, vpleteno v vohunske škandale, po poročanju OCCRP zapustil.
Novinarji nemške TV-oddaje ZDF Magazin Royale, Oštrovega partnerja v preiskavi, so identificirali še najmanj sedemnajst ljudi, ki so zapustili NSO Group in se zaposlili v družbi Dream Security.
Po dostopnih podatkih je Kurz eden vodilnih direktorjev v družbi od septembra 2022.
Janša in Kurz sta se v preteklosti večkrat družila kot državnika in politična prijatelja. To se je, kot kaže, obrestovalo ob letošnjem srečanju. Ursiv je za Oštro namreč pojasnil, da se za sestanek s Kurzem in še dvema predstavnikoma Dream Securityja niso dogovorili oni, temveč kabinet predsednika vlade. Kabinet pa je oktobra pojasnil, da se je to zgodilo – na predlog Dream Securityja.
Kurz je letos kot predsednik uprave te družbe obiskal še več držav in mednarodnih varnostnih konferenc. Septembra je bil z delegacijo na obisku pri srbskem predsedniku v odhodu Aleksandru Vučiću. Ta je na svojem profilu na instagramu zapisal, da se je s prijatelji iz Avstrije in Nemčije pogovarjal o »novih idejah, poslih in vlaganjih«.
Poleg tega je Kurz letos kar dvakrat obiskal Kazahstan, kjer se je med drugim s predstavniki tamkajšnjih kibernetskovarnostnih podjetij pogovarjal o tehnoloških rešitvah pri zagotavljanju digitalne varnosti.
Po Oštru dostopnih podatkih za zdaj kaže, da bi lahko bila Kurzeva julijska promocija orodja Sphere pri slovenskih oblasteh med vladami članic EU premierna.
»Mislim, da v Sloveniji takšna trditev [o navedbah družbe Dream Security o spodbujanju digitalne suverenosti in preprečevanju kibernetskih napadov tujih držav] po aferi Black Cube zveni precej neprepričljivo.«
– Lior Volinz, kriminolog
Sphere – tabula rasa
Dream Security na svojem spletnem mestu pravi, da vladam pomagajo zaščititi najbolj občutljive podatke in jih pretvoriti v odločitve, ki »narode spreminjajo v supernarode«. Ponuja tri orodja – Atlas, Hero in Sphere. Vsa temeljijo na umetni inteligenci in skupaj tvorijo celovit paket za kibernetsko varnost. Kakšne, natančneje, so njihove naloge in kako delujejo, pa je iz visokoletečih besed nemogoče razbrati.
»Zasnovan za voditelje. Ustvarjen za nacionalno odpornost, operativno prednost in sprejemanje informiranih odločitev,« pravijo o tem paketu. Orodje Sphere, ki naj bi ga testirali v Sloveniji, »vlade in kritično infrastrukturo ščiti pred grožnjami drugih držav«. Kritična infrastruktura sicer po področnem slovenskem zakonu vključuje energetske sisteme, vodovode, železnice, zdravstveni sistem, banke, preskrbo s hrano in druge ključne sisteme v državi.
Orodje Atlas predstavljajo kot »nacionalno umetnointeligenčno platformo, ki vladne podatke spreminja v znanje, sposobnosti in odločitve«, Hero pa kot »suvereno raziskovalno ekipo za kibernetsko obrambo«.
Oštro in ZDF Magazin Royale sta o orodju Sphere poskušala izvedeti več v pogovorih z dvema ducatoma nepovezanih ljudi iz informacijskovarnostnih in sorodnih dejavnosti. Nihče o njem ni imel oprijemljivih informacij.
Družba Dream Security ni odgovorila na vprašanje Oštra in ZDF Magazina Royale o tem, katere države ogrožajo čigavi napadi, ki naj bi jih preprečeval Sphere. Hulio pa je junija, v času omenjene dokapitalizacije družbe, o napadih govoril za agencijo Reuters. »Uspelo nam je preprečiti velike kibernetske napade iz Kitajske, Rusije, Irana in Severne Koreje,« je izjavil.
Lior Volinz, izraelski kriminolog, ki sodeluje z inštitutom za kriminologijo pri ljubljanski pravni fakulteti, je skeptičen do navedb družbe o spodbujanju digitalne suverenosti in preprečevanju kibernetskih napadov tujih držav. »Mislim, da v Sloveniji takšna trditev po aferi Black Cube zveni precej neprepričljivo,« je dejal.
Ranljivosti vsled zunanjega orodja
Dream Security ni odgovoril na vprašanje Oštra, kaj pričakujejo od testiranja v Sloveniji.
»Varujemo zaupne odnose z našimi strankami in zaposlenimi ter zaupnost našega delovanja. Delujemo v skladu z zakonodajo in pogodbenimi obveznostmi, varnost, zasebnost in digitalna suverenost pa so temelji našega dela. Ostajamo trdno zavezani odgovornemu razvoju tehnologije, strogim varnostnim standardom in zaupanju naših strank.« Tako pa so se odzvali na podrobna vprašanja Oštrovega nemškega partnerja o delovanju in načrtih podjetja.
Testiranje orodja Sphere se po uradnih pojasnilih državnih organov sicer še ni začelo, Ursiv pa zdaj, kot kaže, poskuša relativizirati dogovor, sklenjen na julijskem sestanku. Na vprašanje o izvajanju dogovora so odgovorili, da še ne vedo, »kdaj in če se bo sploh začelo«.
Pojasnili pa so, da bi testiranje orodja Sphere, če bi do njega prišlo, »potekalo na testnih podatkih v okolju brez internetne povezave«. S tem in anonimiziranjem testnih podatkov bi se povečala varnost testa. Pričakovana dodana vrednost testiranja, o kateri so v poročilu pisali julija, naj bi bila v »odkrivanju in preprečevanju ranljivosti ter povečanju odpornosti na področju kibernetske varnosti«.
Eden izmed področnih strokovnjakov, ki je zaradi narave svojega dela želel ostati neimenovan, je potrdil, da je z anonimiziranjem podatkov in testiranjem v okolju brez internetne povezave mogoče zagotoviti varnost, o kateri govori Ursiv.
Na vprašanje, ali je orodje Sphere združljivo s slovensko nacionalno kibernetsko infrastrukturo, je Ursiv odvrnil, da bo to znano šele po njegovem morebitnem testiranju. Testiranja drugih orodij Dream Securityja pa niso predvideli.
Urad v sodelovanju z ministrstvom za obrambo (Mors) sicer že iz časa prejšnje vlade vodi projekt Situacijski center kibernetske obrambe, ki je bil po dostopnih informacijah zasnovan z enakim ciljem, kot ga promovira ta izraelska družba – celovita obramba države pred kibernetskimi napadi.
Projekt je vreden dobrih 33,5 milijona evrov, končal pa naj bi se do konca prihodnjega leta. Podrobnejši podatki o projektu so tajni, so pojasnili na Ursivu in Morsu.
Večina področnih strokovnjakov je bila do načrtov Dream Securityja v Sloveniji zadržana. Nekateri so dejali, da z ljudmi iz kroga NSO Group ne bi sodelovali. Predstavnik tujega podjetja za kibernetsko varnost je menil, da je Dream Security »kot Palantir« (ameriško informacijsko podjetje, ki je med drugim sodelovalo z deportacijsko službo ICE in izraelsko vojsko) in da ni izključeno, da podatki, ki jih bodo obdelovala orodja te družbe, ne bodo končali pri izraelskih oblasteh.
Lior Volinz pa je opozoril, da orodja, predstavljena kot ‘obrambna’, včasih vključujejo množični nadzor in obsežno analizo osebnih podatkov državljanov, prav tako zunaj zakonsko določenih okvirov. Kot pravi, je »tudi na področju kibernetske varnosti še vedno težko presoditi, katera orodja [umetne inteligence] imajo le omejeno dodano vrednost, a vzbujajo zgolj veliko medijske pozornosti, ter kateri izdelki dejansko pomenijo tveganje za demokracijo in pravno državo«.
Dober slovenski poznavalec kibernetske varnosti, ki je želel ostati neimenovan, je odkrito dejal, da ne verjame v poštene namene lastnikov Dream Securityja, ki izvirajo iz NSO Group. Prepričan je, da gre tudi tokrat za poskus vohunjenja – za državnimi podatki. Obenem je prepričan, da podjetje poleg uradne programske opreme slovenski vladi na skrivaj ponuja tudi vohunske programe.
Drugega našega sogovornika, strokovnjaka z izkušnjami na področju državnih informacijskih sistemov, ki je prav tako prosil za anonimnost, pa zgolj testiranje orodja Sphere v Sloveniji ne bi presenetilo. Država je namreč doslej po njegovih informacijah varno testirala že veliko kibernetskih orodij: »Če je laboratorij ustrezno prirejen in odklopljen od interneta, ni nevarnosti za uhajanje podatkov.«
»Kateregakoli javno-zasebnega partnerstva ne kaže vnaprej odpisati, mora pa država vedno ohraniti nadzor nad svojimi podatki. Odločitve o njihovem varovanju so odvisne od občutljivosti podatkov, ocene tveganja, premisleka, kaj bi se zgodilo, če bi bili razkriti, in komu se lahko razkrijejo.«
– Gorazd Božič, vodja SI-Certa
Ursiv med drugim trdi, da je Sphere »on-prem« orodje, torej deluje zgolj v lokalnem informacijskem okolju. Sogovornik je ob tem opozoril, da orodij vendarle ni mogoče povsem izolirati: »Šibka točka so posodobitve programov – tedaj se povežejo z internetom in postanejo ranljivi.«
Presenetilo pa bi ga, če bi se državni organi po testiranju odločili za vključitev orodij Dream Securityja v sistem nacionalne varnosti. Predvideni Situacijski center kibernetske obrambe namreč »ustreza vsem varnostnim potrebam Slovenije in obenem državi omogoča več nadzora nad sistemom, kot če bi uvedli povsem nova zunanja orodja«, je prepričan.
Več strokovnjakov s področja informacijske varnosti je sicer potrdilo v javnosti razširjeno prepričanje, da izraelski izdelki v slovenskem informacijskem okolju niso nobena redkost. Nasprotno, v preteklosti so jih Sloveniji dobavljala zlasti podjetja iz ZDA, je povedal eden izmed njih.
Novinarji oddaje ZDF Magazin Royale so v preiskavi naleteli na še en problematični vidik: kaj bi se z občutljivimi podatki različnih držav zgodilo po morebitni prodaji Dream Securityja? Šalev Hulio je lani v intervjuju za izraelski Ynet Global namreč namignil, da bi družbo lahko prodali, če bi zanjo kdo denimo ponudil 32 milijard dolarjev.
Mit o suverenosti držav na področju umetne inteligence
Gorazd Božič, vodja slovenskega nacionalnega odzivnega centra za kibernetsko varnost SI-Cert, ki deluje neodvisno od Ursiva, se do dogovora med družbo Dream Security in slovenskimi oblastmi ni želel opredeliti. »Na sestanek pri predsedniku vlade nismo bili vabljeni,« je povedal in dodal, da ni seznanjen niti z morebitnimi poznejšimi odločitvami.
Po njegovem mnenju javno-zasebnega partnerstva ne kaže vnaprej odpisati, mora pa država vedno ohraniti nadzor nad svojimi podatki. Odločitve o njihovem varovanju so odvisne od občutljivosti podatkov, ocene tveganja, premisleka, kaj bi se zgodilo, če bi bili razkriti, in komu se lahko razkrijejo. »Tovrstni premisleki so trend v EU, tudi druge države se soočajo z njimi,« pravi Božič.
»Na podlagi skope dokumentacije družbe Dream Security je mogoče predvideti, da podatki ne bodo ostali v državi, ampak da bodo vsaj delno uporabljeni za urjenje svetovnega umetnointeligenčnega modela.«
– Matteo Große-Kampmann, Univerza Rhine-Waal
V programski opremi, ki jo promovira Dream Security, pa je največja neznanka delovanje umetne inteligence. Kolegi z ZDF Magazina Royale so v pogovoru z nemškim strokovnjakom za kibernetsko varnost, profesorjem Matteom Große-Kampmannom z Univerze Rhine-Waal, med drugim izvedeli, da je »na podlagi skope dokumentacije družbe Dream Security mogoče predvideti, da podatki ne bodo ostali v državi [kjer bi bilo orodje uporabljeno], ampak da bodo vsaj delno uporabljeni za urjenje svetovnega umetnointeligenčnega modela«.
Tudi osnutek nove strategije kibernetske varnosti za obdobje 2027–2035, ki jo je Ursiv minuli teden dal v javno razpravo, vsebuje kratko podpoglavje o umetni inteligenci. Spodbujanje njene uporabe za krepitev kibernetske varnosti je predvideno kot ena izmed prihodnjih strateških usmeritev države.
Umetna inteligenca predstavlja pomembno priložnost za krepitev kibernetske varnosti, hkrati pa prinaša nova tveganja, piše v dokumentu. »Republika Slovenija bo spodbujala njeno varno, odgovorno in suvereno uporabo ter krepila zmogljivosti za obvladovanje povezanih tveganj,« so zagotovili. Pri tem so suverenost opredelili predvsem kot »zmožnost nadzora nad podatki, dostopi, ponudniki in delovanjem sistemov ter obvladovanje odvisnosti in možnost zamenjave rešitve«.
Dream Security na svojem spletnem mestu obljublja prav to – da njihova orodja državam omogočajo suvereno upravljanje kritičnih sistemov v okviru njihovih meja, pod njihovim nadzorom in pogoji. Državam omogočajo, da zgradijo suverene kibernetsko-umetnointeligenčne sisteme, »rešitve, ki se učijo iz lokalnih podatkov, se varno izboljšujejo na nacionalni infrastrukturi in jih je mogoče preprosto razširiti prek različnih okolij«.
Tomaž Klobučar, vodja laboratorija za odprte sisteme in mreže na inštitutu Jožefa Stefana, pa opozarja, da tovrstna obramba ne sme biti povsem avtonomna: »Umetnointeligenčnemu modelu moramo povedati, česa ne sme početi.«
»Za varovanje kritične infrastrukture si ne moremo privoščiti uporabe zunanjega modela,« je prepričan. »To bi moral biti lokalni model, prilagojen delovanju same ustanove [ki jo varuje]. Bistveno je, da zna model pojasniti, kako je prišel do neke odločitve, in da mu postavimo omejitve. Torej, da ne more ‘uiti’. Sicer nam lahko tudi izbriše podatke in naredi škodo, še posebej če gre za kritično infrastrukturo.«
Pri preiskavi so sodelovali tudi Lisa Genzken, Edina Schmitt in Christoph Schattleitner (ZDF Magazin Royale) ter Ayan Kalmurat (OCCRP).
2026 © Oštro
