Ne-bezpečenstvo umelej inteligencie - 5. časť

V tejto časti seriálu budeme pokračovať v začatej téme vibecodingu. Hneď v úvode si pripomeňme, že veľké jazykové modely (LLM) a vibecoding nástroje nepopierateľne transformovali softvérové inžinierstvo a vývoj používateľských rozhraní (UI). Medzi najprogresívnejšie nástroje v tejto oblasti určite patrí Vercel v0 – generatívny systém poháňaný AI, ktorý umožňuje vývojárom vytvárať frontendové (React, Tailwind, shadcn) komponenty na základe textových inštrukcií (promptov). Schopnosť v0 premeniť textový prompt na plne funkčné UI prináša nepopierateľnú efektivitu, dramaticky skracuje čas potrebný na prototypovanie a nasadenie aplikácií, avšak s narastajúcou adopciou tohto typu vývoja vznikajú otázky týkajúce sa bezpečnosti vygenerovaného zdrojového kódu.

  • Článok: ai5.docx
  • Publikované v NEXTECH 7-8/2026
v02v01

Ne-bezpečenstvo umelej inteligencie - 4. časť

V dnešnej časti seriálu si doplníme informácie týkajúce sa sumarizácie a zhodnotenia bezpečnostných chýb a slabín technických prostriedkov a ich softvéru. Ďalej sa budeme venovať generatívnej AI (GenAI), ktorá sa zameriava na vytváranie nového obsahu. Konkrétne sa budeme venovať jej využitiu a problémom súvisiacim s tvorbou programového kódu. Uplatníme pritom najnovšiu hodnotiacu správu spoločnosti Veracode (veracode.com), ktorá varuje pred rizikami GenAI.

  • Článok: ai4.docx
  • Publikované v NEXTECH 5/2026
MITRE CWE, OWASPGenAI

Ne-bezpečenstvo umelej inteligencie - 3. časť

Skôr ako budeme pokračovať v začatej téme týkajúcej sa nebezpečenstiev umelej inteligencie (ďalej len „AI“), musíme si predstaviť niekoľko dôležitých pojmov, ktoré budeme neskôr viackrát spomínať v súvislosti so zabezpečovaním AI nástrojov a aplikácií. Ide najmä o skratky MITRE, ATT&CK a ATLAS. MITRE je korporácia, ATT&CK a ATLAS sú jej vedomostné databázy, ktoré priamo súvisia s kybernetickou bezpečnosťou a naviac s bezpečnosťou, resp. nebezpečnosťou AI. Na jednej strane informujú, resp. varujú pred možnými zraniteľnosťami IT aplikácií, na druhej strane uvádzajú možnosti aké ponúkajú rôzne nástroje a takisto aj samotná AI v oblasti možnej kompromitácie cieľových zariadení.

  • Článok: ai3.docx
  • Publikované v NEXTECH 4/2026
MITRE ATLASSATIN

Ne-bezpečenstvo umelej inteligencie - 2. časť

V tomto článku budeme pokračovať v začatej téme týkajúcej sa schváleného Aktu o umelej inteligencii. Predstavíme si niekoľko veľmi dôležitých oblastí, ktoré sú jeho náplňou, pričom detailnejšie sa budeme venovať súvislostiam týkajúcich sa kybernetickej bezpečnosti. Predstavíme si zakázané a vysokorizikové systémy AI, úlohu kybernetickej bezpečnosti pri zabezpečovaní odolnosti systémov AI a v závere si v krátkosti okomentujeme jeden z najnovších medializovaných bezpečnostných incidentov súvisiaci s AI.

  • Článok: ai2.docx
  • Publikované v NEXTECH 3/2026
ENISAAkt o umelej inteligenciiRIP Privacy

Ne-bezpečenstvo umelej inteligencie - 1. časť

Umelá inteligencia, resp. AI (Arificial Intelligence) - pojem, resp. skratka, o ktorej stále viac a viac počúvame, ktorú vidíme všade kam sa pozrieme, o ktorej čítame vo všetkých možných publikáciách, ktorá sa ako zázračná vlastnosť priraďuje stále viac a viac výrobkom, systémom či procesom. Niektorí ju velebia, iní sa jej boja a zatracujú ju. Každopádne AI prenikla a naďalej preniká do všetkých aspektov nášho života. Hoci je jej potenciál nespochybniteľný, jej rýchly rozvoj so sebou prináša aj závažné riziká a množstvo etických dilem. Tieto hrozby siahajú od menšieho či väčšieho ovplyvnenia nášho každodenného života, cez možné ohrozenie nášho zdravia, principiálne zmeny v našej spoločnosti až po systémové ohrozenie základných ľudských hodnôt. V našom novom seriály nebudeme polemizovať, hodnotiť ani komentovať názory na nebezpečenstvo AI prezentované na rôznych miestach v mediálnom priestore. Takých názorov, či už kladných alebo záporných sú tisíce, pričom máloktorý z nich je podložený faktami. Práve naopak, v tomto seriály sa pokúsime zosumarizovať fakty, skutočnosti, praktické skúsenosti, vedecké závery a nepopierateľné (dokázateľné) pravdy o tom kde sa dostal vývoj umelej inteligencie so zameraním sa na jej potencionálnu nebezpečnosť.

  • Článok: ai1.doc
  • Publikované v NEXTECH 1-2/2026
DalleAdobeFireflyLeonardo