Dnes je 17. 11. 2026 a svátek má Mahulena
Reklama

Umělou inteligenci čeká první evropská regulace, od původního českého návrhu se však velmi vzdálila

ČESKO – Ještě v době, kdy bylo Česko předsednickou zemí EU, vznikl poměrně rozsáhlý návrh týkající se regulace dalšího vývoje umělé inteligence (AI). Zahrnoval dlouhý seznam oblastí, které měly být výslovně zakázány – nyní však poslanci Evropského parlamentu přistoupili k přijetí návrhu, který v podstatě zakazuje jen zlomek původních navržených aktivit. A nakonec vlastně říká, že možná ani ty nebude nutné přímo omezovat. V každém případě by se ale i tak mělo jednat o první komplexní regulaci daného odvětví na světě. Co by tedy mělo být zakázáno?

K užití a vývoji umělé inteligence se samozřejmě pojí celá řada sporných otázek. Zejména v posledním roce přitom celá oblast pokročila velmi výrazně kupředu. Není tedy divu, že i sami odborníci, kteří se AI věnují, začali volat po zastavení či regulacích vývoje. I proto tedy poslanci Evropského parlamentu schválili návrh pravidel, která budou muset v Evropě firmy vyvíjející umělou inteligenci dodržovat.

Jak regulovat vývoj AI?

Podle nové normy by nemělo být možné užívat AI pro sledování a identifikaci občanů dle jejich chování nebo je identifikovat dle biometrických údajů ve veřejných prostorech – třeba pomocí automatického rozpoznávání obličejů. To by mělo být povoleno pouze zpětně pro účely trestního stíhání, a to navíc jen s povolením soudu. Neměla by být umožněna ani biometrická kategorizace dle rasy, pohlaví ad. Dále by užití AI nemělo být umožněno ani v rámci policejních systémů, které „umí“ předpovídat kriminalitu, v systémech k rozpoznávání emocí (na pracovištích, ve školách) a také by mělo být zapovězeno shromažďování fotografií a videí lidí z internetu nebo kamerových systémů. Návrh také zahrnuje povinné označení toho, co vytvořila AI.

Původní návrh z dob českého předsednictví přitom zahrnoval dlouhý seznam různých zákazů – k naplnění však nedošlo. Podle Jakuba Marečka z Centra umělé inteligence ČVUT se např. ještě před počátkem války na Ukrajině hovořilo o zákazu užívání AI ve zbraňových systémech. Aktuálně se ale odborníci spíše přiklánějí k tomu, že tato praxe by se naopak mohla stát možnou výhodou, která by mohla být ku prospěchu věci.

Staňte se členy FB skupiny Život v Jihočeském kraji a žádná zpráva vám neunikne.
Sledujte nás na síti X, kde pro vás připravujeme plejádu pestrých zpráv.

Zákazy vs. rizika

Zatímco zákazy byly zúženy, naopak k rozšíření došlo v případě aktivit klasifikovaných jako „vysoce rizikové“. Dle Marečka tak „seznam obsahuje věci poměrně logické a třeba se o nich uvažovalo i v kontextu zákazu – např. užití v soudnictví pro odhad výše trestu, užití v systémech kritické infrastruktury, dispečinku IZS, automatizaci řízení lidských zdrojů ad.,“ vysvětlil.

Do rizikové kategorie by ale mělo spadat také doporučování obsahu na sociálních sítích – firmy budou pod drobnohledem a pokuty, které mohou hrozit, jsou velké. Na druhou stranu rozsah a přístupnost dat je relativně malý, takže vyhodnocovat drobné systematické chyby může být i dle Marečka docela obtížné. A tatáž situace nastane také v případě odlišování děl AI od těch lidských. Např. v případě generování textu jsou snahy, aby byl obsažen snadno identifikovatelný vzor, díky němuž by text vytvořený AI bylo možné rozpoznat (to dělá např. CHAT GPT). Jsou ale i jiné modely, které generují text – a ten bude obtížně dohledatelný. To je pak samozřejmě problematické např. i z hlediska generování dezinformací.

Jako problematická se minimálně zatím jeví také vymahatelnost zaváděných nařízení. Ačkoliv samotný návrh obsahuje silnou podporu pro vymáhání např. v podobě pokut, odhalení drobných prohřešků bude trvat ještě velmi dlouho.


NEWSLETTER
Chcete dostávat podobné zprávy z Jihočeského kraje?
Jednou týdně vám pošleme výběr nejdůležitějších zpráv z vašeho regionu.
Přihlásit odběr

Doporučujeme

Zprávy

Jihočeský policista opět zazářil. Z mistrovství republiky přivezl zlato i stříbro!

Jihočeský policista opět zazářil. Z mistrovství republiky přivezl zlato i stříbro!

JIHOČESKÝ KRAJ – Jihočeský policista Martin Hermann znovu potvrdil, že patří mezi špičku bojových sportů. Po nedávném úspěchu na mistrovství Evropy v karate tentokrát zazářil na republikovém šampionátu v Jiu-Jitsu, ...
Cyklisté a chodci pozor! Stavba Severní spojky dočasně uzavře stezku na Hlubokou

Cyklisté a chodci pozor! Stavba Severní spojky dočasně uzavře stezku na Hlubokou

ČESKÉ BUDĚJOVICE – Oblíbenou cyklostezku mezi Českými Budějovicemi a Hlubokou nad Vltavou čeká začátkem příštího týdne omezení. Kvůli pokračující stavbě Severní spojky se její část dočasně uzavře. Chodci i cyklisté ...
Auto s otevřeným kufrem lákalo nezvané hosty. Všímavý kolemjdoucí upozornil strážníky

Auto s otevřeným kufrem lákalo nezvané hosty. Všímavý kolemjdoucí upozornil strážníky

ČESKÉ BUDĚJOVICE – Zaparkované auto s kufrem otevřeným dokořán a nikde ani živáčka. Neobvyklé situace v Kněžské ulici si všiml kolemjdoucí, který na ni upozornil strážníky městské policie. Majitel vozidla ...
Požár lesa, nehoda cisterny i pátrání po pohřešovaných. Jihočeští hasiči vyrazili na pomoc do Rakouska

Požár lesa, nehoda cisterny i pátrání po pohřešovaných. Jihočeští hasiči vyrazili na pomoc do Rakouska

ŠUMAVA – Rozsáhlý lesní požár, havarovaná cisterna s nebezpečnou látkou a lidé ztracení v terénu. Takový scénář čekal na více než 180 účastníků mezinárodního cvičení v rakouské části Šumavy. Do akce ...
Když jde o vteřiny, rozhodují správná slova. Budějovičtí strážníci trénovali krizové situace

Když jde o vteřiny, rozhodují správná slova. Budějovičtí strážníci trénovali krizové situace

ČESKÉ BUDĚJOVICE – Uklidnit rozrušeného člověka, zabránit vyhrocení konfliktu nebo správně reagovat v nebezpečné situaci. I to si vyzkoušeli českobudějovičtí strážníci během dvoudenního intenzivního výcviku. Inspiraci přitom čerpali také z postupů ...
Na D3 vyrazil nový policejní pomocník. Hned první den prověřil 230 dokladů

Na D3 vyrazil nový policejní pomocník. Hned první den prověřil 230 dokladů

ČESKÉ BUDĚJOVICE – Falešné doklady už nemusí prozradit pouhý pohled. Policisté proto na dálnici D3 poprvé vyzkoušeli nový přístroj, kterému neuniknou ani drobné detaily. Během jediné akce zkontrolovali devadesátku cizinců, ...
Prezident jmenuje nového ministra životního prostředí. Igor Červený chce bojovat proti „bezduché zelené ideologii“

Prezident jmenuje nového ministra životního prostředí. Igor Červený chce bojovat proti „bezduché zelené ideologii“

ČESKO – Premiér Andrej Babiš (ANO) předložil prezidentovi Petru Pavlovi nominaci Igora Červeného (Motoristé) na post ministra životního prostředí. Prezident již nového kandidáta pozval na formální setkání na Hrad a ...
Díky modernizaci interního oddělení pocítí pacienti při hospitalizaci větší komfort

Díky modernizaci interního oddělení pocítí pacienti při hospitalizaci větší komfort

PÍSEK – Interní oddělení Nemocnice Písek čeká výrazná proměna, která přinese pacientům i personálu větší pohodlí a modernější zázemí. První etapa rozsáhlé rekonstrukce je dokončena a nové lůžkové prostory se ...
Umělá inteligence zpřesňuje vyšetření a zkracuje čekací dobu. Ministerstvo chystá formální pravidla

Umělá inteligence zpřesňuje vyšetření a zkracuje čekací dobu. Ministerstvo chystá formální pravidla

ČESKO – Umělá inteligence (AI) proniká do českého zdravotnictví stále výrazněji. Nemocnice i ambulance ji využívají při diagnostice, plánování péče i organizaci provozu. Technologie dokáže zkrátit délku vyšetření, zvýšit přesnost ...
Výroba léků v Česku má posílit. Vláda hledá cestu, jak omezit výpadky a přilákat investory

Výroba léků v Česku má posílit. Vláda hledá cestu, jak omezit výpadky a přilákat investory

ČESKO – Opakované výpadky některých léků v posledních letech znovu otevřely otázku, kde a za jakých podmínek se mají léčiva vyrábět. Vláda chce podpořit tuzemské farmaceutické závody a zároveň přilákat ...