Horizon Europe

HORIZON-CL3-2026-02-CS-ECCC

Zvýšenie bezpečnosti, súkromia a robustnosti modelov a systémov umelej inteligencie (SecureAI)

Rastúca závislosť od umelej inteligencie v kybernetickej bezpečnosti, kritickej infraštruktúre a rozhodovacích procesoch vyvoláva obavy o bezpečnosť a robustnosť systémov umelej inteligencie. S rastúcim rozšírením systémov umelej inteligencie sa čoraz častejšie stávajú terčom útokov nepriateľských skupín, ktoré manipulujú so vstupmi, ohrozujú tréningové údaje alebo zavádzajú skryté zraniteľnosti. Cieľom tejto témy je posilniť odolnosť systémov a algoritmov umelej inteligencie voči rôznym hrozbám a útokom, ako je zvýšenie ich odolnosti voči útokom nepriateľských skupín, backdoor injections a data otrave. Návrhy by mali vyvinúť detekciu anomálií v reálnom čase, techniky zmierňovania na obranu pred útokmi nepriateľských skupín a robustné techniky federatívneho učenia v synergii s popredným úsilím o transparentnosť umelej inteligencie a v súlade so zákonom o umelej inteligencii. Témou sa očakáva:

Vyvinutie robustných modelov umelej inteligencie odolných voči útokom nepriateľov. Preskúmať techniky na posilnenie modelov a systémov umelej inteligencie proti útokom nepriateľov, ako je tréning nepriateľov, robustná optimalizácia a obranné mechanizmy, ktoré zvyšujú dôveryhodnosť umelej inteligencie.

Zlepšenie detekcie manipulovaných alebo zneužitých tréningových údajov. Pokročiť v metodikách na identifikáciu a zmierňovanie ohrozených súborov údajov s využitím techník, ako je detekcia anomálií, sledovanie pôvodu a automatizované mechanizmy overovania údajov.

Riešenie konceptu súkromnej umelej inteligencie vývojom mechanizmov, ktoré umožňujú trénovať, nasadzovať a prevádzkovať modely umelej inteligencie v prostrediach chrániacich súkromie, najmä v citlivých prípadoch použitia, ako napríklad vo vládnych a podnikových prostrediach. To zahŕňa zabezpečenie toho, aby výpočty a dáta umelej inteligencie zostali v rámci dôveryhodných hraníc vykonávania (napr. lokálne alebo regulované cloudové prostredia) a využitie existujúcich a vznikajúcich techník na zvýšenie ochrany súkromia, ako je federatívne učenie, bezpečná agregácia, výpočty na šifrovaných dátach, kvantovo bezpečné homomorfné šifrovanie a bezpečná inferencia v hlbokom učení, s cieľom zabezpečiť ochranu osobných a iných citlivých údajov počas celého životného cyklu umelej inteligencie.

Právnická fakulta UK,

Šafárikovo nám. 6,

810 00 Bratislava,

Oddelenie grantov

e-mail: granty@flaw.uniba.sk

Tel. + 421 2 9012 2093

Horizon Europe

HORIZON-CL3-2026-01-FCT-02

Otvorená téma o predchádzaní a boji proti zneužívaniu nových technológií na trestné účely vrátane otázok súvisiacich so zákonným prístupom k údajom

Nové a vznikajúce technológie (napr. nové komunikačné technológie, kvantové technológie, nové biometrické a identifikačné technológie, cloud computingové technológie, generatívna umelá inteligencia atď.) prinášajú mnoho výhod, ale zároveň predstavujú množstvo nových výziev pre políciu a súdnictvo. Preto je veľmi potrebné primerane riešiť výzvy pre policajné orgány vyplývajúce zo všetkých týchto nových a vznikajúcich vývojov, ako aj zabezpečiť, aby zákonný prístup k údajom držal krok s týmto vývojom, rešpektujúc platné právne predpisy a základné práva, ako je ochrana osobných údajov a súkromie.

V rámci otvorenej témy sú vítané návrhy zamerané na nové a vznikajúce technológie, ktoré nie sú zahrnuté v iných projektoch predchádzajúcich výziev programu Horizont Európa na boj proti kriminalite a terorizmu, ako aj v súčasnej výzve na boj proti kriminalite a terorizmu 2026 – 2027. Návrhy by mali klásť dôraz na adaptívne metodiky a rámce, ktoré sa môžu vyvíjať v reakcii na nové hrozby a výzvy, čím sa posilní policajné orgány, aby konali efektívne, a zároveň sa zabezpečí dodržiavanie právnych noriem týkajúcich sa prístupu k údajom. Výskumné aktivity navrhované v rámci tejto témy by preto mali vyváženým spôsobom vyvíjať moderné nástroje, metodiky a školiace materiály pre políciu na riešenie problému zneužívania nových a vznikajúcich technológií na trestné účely a 2) riešiť otázky týkajúce sa zákonného prístupu k údajom v tomto kontexte.

V tejto téme nie je integrácia rodového a intersekcionálneho rozmeru (analýza pohlavia a rodovej rovnosti) do obsahu výskumu a inovácií povinnou požiadavkou. Mala by sa zvážiť koordinácia medzi úspešnými návrhmi z tejto témy, aby sa predišlo duplicite a aby sa využili komplementárnosti, ako aj príležitosti na zvýšenie vplyvu.

Očakáva sa, že návrhy financované v rámci tejto témy, ktoré sa týkajú otázok, ktoré patria do mandátu Europolu, budú počas trvania projektu spolupracovať s Europol Innovation Lab vrátane overovania výsledkov s cieľom uľahčiť budúce využívanie inovácií pre komunitu presadzovania práva. Podobne, ak sa návrhy týkajú otázok súvisiacich s drogami, očakáva sa, že počas trvania projektu budú spolupracovať s Agentúrou EÚ pre drogy vrátane overovania výsledkov. V prípade aspektov týkajúcich sa odbornej prípravy policajných orgánov sa očakáva spolupráca úspešných návrhov s CEPOL-om za predpokladu, že sa agentúra rozhodne neuchádzať o financovanie.

Napokon sa očakáva, že návrhy budú zohľadniť všetky príslušné aspekty uvedené v úvode cieľa Boj proti kriminalite a terorizmu.

Úroveň technologickej pripravenosti – úroveň technologickej pripravenosti očakávaná od dokončených projektov.

Právnická fakulta UK,

Šafárikovo nám. 6,

810 00 Bratislava,

Oddelenie grantov

e-mail: granty@flaw.uniba.sk

Tel. + 421 2 9012 2093

Horizon Eurpoe

HORIZON-CL3-2027-01-FCT-01

Nástroje na detekciu a vyšetrovanie online škôd využívajúce model krátkeho vývojového cyklu

S neustálym vývojom digitálneho prostredia sa vyvíja aj množstvo online škôd, ktoré ohrozujú bezpečnosť a pohodu občanov. Aby sme sa s týmito výzvami vyrovnali, vyzývame k predkladaniu návrhov na vývoj nástrojov na detekciu a vyšetrovanie, ktoré využívajú modely s krátkym vývojovým cyklom. Tento prístup kladie dôraz na agilitu a reakciu, čím zabezpečuje, aby sa nástroje dokázali rýchlo prispôsobiť vznikajúcim online hrozbám, ako sú krádeže identity, dezinformácie, deepfake, spoofing, phishing, digitálne násilie, alebo napr. nástroje na včasné odhalenie, ako aj monitorovanie a hodnotenie rizík v reálnom čase, ktoré dokážu identifikovať potenciálne podvodné predaje („online platobné podvody“) skôr, ako k nim dôjde.

Táto téma víta inovatívne nápady zamerané na vytváranie účinných nástrojov na detekciu a vyšetrovanie na boj proti rôznym formám online škôd, ktoré by sa mali vyberať na začiatku každého nového vývojového cyklu po dohode so všetkými zainteresovanými stranami zapojenými do konzorcia, najmä vrátane konkrétnych potrieb policajných orgánov. Dôraz na krátke vývojové cykly umožňuje, aby návrhy zostali dynamické, reagovali na rýchlu povahu online hrozieb a boli schopné riešiť zavedené problémy aj nové výzvy, ktoré vznikajú. Návrhy by sa mali zamerať na iteratívny proces vývoja nástrojov, integrovať spätnú väzbu od policajných orgánov s cieľom zabezpečiť neustále zlepšovanie a relevantnosť v boji proti online škodám. Konečným cieľom je podporiť proaktívnu a účinnú reakciu na ochranu online priestorov pre všetkých používateľov bez ohľadu na ich rodovú identitu alebo prejav.

Očakáva sa, že návrhy poskytnú nápady, ako by sa počas trvania projektu zapojili do spolupráce s Europol Innovation Lab. Okrem toho, ak sa návrhy týkajú otázok súvisiacich s drogami, očakáva sa, že počas trvania projektu budú spolupracovať s Agentúrou EÚ pre drogy vrátane overovania výsledkov. V oblasti odbornej prípravy policajných orgánov sa očakáva spolupráca úspešných návrhov s CEPOL-om za predpokladu, že sa agentúra rozhodne neuchádzať o financovanie. Aby sa zabezpečila aktívna účasť a včasná spätná väzba od príslušných bezpečnostných odborníkov, návrhy by mali plánovať strednodobý výstup pozostávajúci z posúdenia strednodobých výsledkov projektu, ktoré vykonajú odborníci zapojení do projektu. Nakoniec sa očakáva, že návrhy budú riešiť všetky príslušné aspekty vyjadrené v úvode cieľa Boj proti kriminalite a terorizmu. Projekt by mal mať minimálne odhadované trvanie 48 mesiacov.

Právnická fakulta UK,

Šafárikovo nám. 6,

810 00 Bratislava,

Oddelenie grantov

e-mail: granty@flaw.uniba.sk

Tel. + 421 2 9012 2093

Horizon Europe

HORIZON-CL3-2027-02-CS-ECCC-01

Umelá inteligencia pre aplikácie kybernetickej bezpečnosti

Umelá inteligencia sa v kybernetickej bezpečnosti čoraz viac využíva na detekciu hrozieb, reakciu na incidenty a adaptívne obranné mechanizmy. Samotné systémy riadené umelou inteligenciou sú však náchylné na manipuláciu a zaujatosť zo strany nepriateľa. Cieľom tejto témy je rozvíjať aplikácie kybernetickej bezpečnosti založené na umelej inteligencii a zároveň zabezpečiť, aby riešenia riadené umelou inteligenciou zostali odolné, transparentné a v súlade s regulačnými rámcami, ako je napríklad zákon o umelej inteligencii. V tejto súvislosti téma skúma úlohu všetkých typov umelej inteligencie vrátane generatívnej umelej inteligencie v aplikáciách kybernetickej bezpečnosti vrátane automatizovanej detekcie hrozieb, adaptívnej kybernetickej obrany a spravodajstva o kybernetických hrozbách riadeného umelou inteligenciou. Návrhy by mali vyvinúť riešenia pre dôveryhodnú umelú inteligenciu v kontexte kybernetickej bezpečnosti vrátane riešenia rizík spojených s nepriateľom umelej inteligencie v súlade s ustanoveniami zákona o umelej inteligencii. Očakáva sa, že téma bude:

Vyvíjať riešenia a nástroje riadené umelou inteligenciou na detekciu kybernetických hrozieb v reálnom čase. Skúmať nové techniky strojového učenia na detekciu anomálií, škodlivej aktivity a kybernetických hrozieb riadených umelou inteligenciou v reálnom čase, zlepšovať situačné povedomie a reakčné časy.

Vyvíjať adaptívne systémy umelej inteligencie schopné vyvíjať sa s dynamickými výzvami v oblasti kybernetickej bezpečnosti. Prieskum techník umelej inteligencie, ktoré sa neustále učia z nových kybernetických hrozieb, prispôsobujú sa vznikajúcim vzorcom útokov a zároveň si zachovávajú robustnosť a vysvetliteľnosť.

Podpora budúcich vylepšení bezpečnostných operačných centier/kybernetických uzlov. Vývoj rámcov bezpečnostných operácií (SOC) vylepšených umelou inteligenciou, ktoré integrujú prediktívnu analytiku, automatizáciu a informácie o hrozbách s cieľom posilniť proaktívne obranné opatrenia.

Právnická fakulta UK,

Šafárikovo nám. 6,

810 00 Bratislava,

Oddelenie grantov

e-mail: granty@flaw.uniba.sk

Tel. + 421 2 9012 2093

Horizon Europe

HORIZON-CL3-2027-02-CS-ECCC-02

Bezpečné výpočtové kontinuum (IoT, Edge, Cloud, dátové priestory)

Cieľom tejto témy je zlepšiť bezpečnosť v celom výpočtovom kontinuu, ktoré zahŕňa zariadenia internetu vecí, edge computing, cloudové infraštruktúry, prostredia umelej inteligencie a dátové priestory. Návrhy by sa mali zaoberať kritickými výzvami, ako je zabezpečenie integrity údajov vo vysoko distribuovaných a dynamických prostrediach, implementácia robustných architektúr nulovej dôvery na zabezpečenie prepojených a heterogénnych systémov a umožnenie komplexnej ochrany citlivých údajov a procesov. Ochrana súkromia by sa mala považovať za kľúčový prvok týchto prístupov, čím sa zabezpečí zachovanie dôvernosti údajov počas celého ich životného cyklu v súlade s príslušnými rámcami ochrany údajov, ako je GDPR. Očakáva sa, že riešenia prinesú hmatateľné a merateľné zlepšenia bezpečnosti vo všetkých vrstvách kontinua, pričom prioritou bude škálovateľnosť, interoperabilita, dôveryhodnosť, bezpečnosť a odolnosť voči vznikajúcim hrozbám.

Očakáva sa, že návrhy sa budú zaoberať jednou alebo viacerými z nasledujúcich oblastí:

Vyvinúť pokročilé bezpečnostné riešenia pre oblasť od okraja k cloudu. Napríklad skúmanie ľahkých kryptografických techník, vrátane techník v kombinácii s postkvantovou kryptografiou alebo na jej základe, začlenených do architektúr nulovej dôvery, a decentralizovaných bezpečnostných modelov na zabezpečenie komplexnej ochrany od okraja k cloudu a zároveň zachovať súkromie počas prenosu a spracovania údajov.

Zlepšiť interoperabilitu bezpečnostných opatrení naprieč rôznymi výpočtovými vrstvami. Preskúmanie bezpečnostných protokolov, riešení správy identít a prístupov a mechanizmov overovania medzi doménami s cieľom bezproblémovej integrácie bezpečnostných kontrol v rôznych výpočtových ekosystémoch vrátane protokolov na ochranu súkromia, ktoré umožňujú bezpečnú a kompatibilnú výmenu údajov.

Vyvinúť prenosné a nasaditeľné riešenia akcelerácie PQC prostredníctvom bezpečného spoločného návrhu softvéru a hardvéru na zabezpečenie používateľských údajov a výpočtových úloh naprieč heterogénnymi platformami a aplikáciami vo všetkých vrstvách kontinua.

Zlepšiť odolnosť voči distribuovaným kybernetickým hrozbám. Preskúmanie detekcie anomálií vrátane detekcie anomálií riadenej umelou inteligenciou, techník prevencie narušení a automatizovaných mechanizmov reakcie na boj proti vznikajúcim hrozbám zameraným na prepojené infraštruktúry a dátové priestory a zároveň zachovať súkromie prostredníctvom techník, ako je federovaná analýza, bezpečné viacstranné výpočty, plne homomorfné šifrovanie alebo iné.

Právnická fakulta UK,

Šafárikovo nám. 6,

810 00 Bratislava,

Oddelenie grantov

e-mail: granty@flaw.uniba.sk

Tel. + 421 2 9012 2093