name | autoweek.cz
Pojištění pro umělou inteligenci
18.04.2018 | | Trendy
Na rozvoj umělé inteligence se musíme dobře připravit, varuje aktuální studie Allianz. Hrozí velké ztráty.
Autonomně řízené vozy, chatboti a inteligentní stroje už dnes naznačují, jak bude vypadat budoucnost. Rozšíření strojů s umělou inteligencí bude zvyšovat efektivitu podniků. Na druhou stranu se ale také zvýší zranitelnost firem vůči kyberútokům a vzroste potenciál obřích finančních ztrát v krátkém čase. Na to všechno se musíme připravit, varuje Allianz Global Corporate & Specialty (AGCS).
Za umělou inteligenci jsou považovány počítače, stroje a další zařízení, které jsou schopné samostatně uvažovat a učit se. V dnešním světě již pracujeme s tzv. „slabou“ umělou inteligencí na úrovni chatovacích robotů, které mohou třeba pomoci sjednat pojistku. Studie Allianz však do roku 2040 předvídá rozšíření tzv. „silné“ umělé inteligence, tedy robotů, které budou schopné sami řešit komplexní problémy.
Rozšíření umělé inteligence do všech oborů lidské činnosti přinese mnoho výhod, ale také nových problémů. Firmy zvýší efektivitu, ubydou rutinní činnosti, vykonávané lidmi, zvýší se bezpečnost autodopravy, zdravotnictví prodělá revoluci a díky systémům chytrých měst budeme moci lépe korigovat dopad působení člověka na životní prostředí. Díky využití umělé inteligence se také budeme umět lépe bránit proti běžným hackerským útokům.
Výčet nevýhod a rizik rozvoje umělé inteligence je však podobně dlouhý. Vyšší propojenost systémů v dané firmě, nebo firmy s místními či globálními sítěmi, zvýší zranitelnost podniků vůči útokům zvenku. Povedený kyberútok způsobí mnohem větší ztráty než dosud, zejména pokud bude podobný způsob útoku v krátké době zopakován na stejných robotech v různých firmách. Už dnes bychom proto měli začít pracovat na přípravě efektivního záchranného systému, ale zejména na prevenci těchto (předvídatelných) situací.
Allianz ve své studii varuje před zbrklým zaváděním nových technologií. Ani při snaze „být první“ by neměla být opomenuta prevence proti katastrofickým scénářům. AGCS doporučuje zaměřit se v případě umělé inteligence na těchto pět klíčových oblastí a řešit je systematicky na úrovni firem i vlád:
1) Otevřenost softwaru - Je třeba vyřešit dilema, zda má být zdrojový kód softwaru umělé inteligence veřejně přístupný pro komunitu vývojářů či ne. Pokud bude k dispozici široké veřejnosti, minimalizuje se riziko programovacích chyb. Na druhou stranu také roste riziko, že někdo chybu objeví, zamlčí ji a v budoucnu jí zneužije.
2) Bezpečnost - Před uvedením do prodeje musí být zařízení plně připravena na reálný svět. To je obtížné z hlediska jeho komplexity, ale také kvůli tlaku na rychlý vývoj. Je třeba postupovat s maximální obezřetností a nastavit adekvátní pravidla.
3) Zodpovědnost - Kromě odpovědného vývoje a testování zahrnuje tato položka také potřebu naprogramovat roboty tak, aby jejich rozhodování bylo transparentní a kontrolovatelné. Každý krok robota by měl být zpětně odůvodnitelný. Veřejnost má mít tzv. právo na vysvětlení.
4) Ručení - Zásadní otázka nejen pro oblast pojišťovnictví: Kdo bude ručit za kroky robota, které udělá na základě vlastního uvážení - vývojář, majitel, nebo přijdeme s nějakým úplně jiným, novým řešením? Zatím je nejpravděpodobnější převzetí odpovědnosti výrobcem.
5) Etika - Se zaváděním umělé inteligence se pojí řada etických otázek, na jejichž řešení bychom měli urychleně začít pracovat. Již dnes se vývojáři setkávají s tím, že naprogramovat správné řešení není vůbec jednoduché, například v případě krizových situací při autonehodách.
Za umělou inteligenci jsou považovány počítače, stroje a další zařízení, které jsou schopné samostatně uvažovat a učit se. V dnešním světě již pracujeme s tzv. „slabou“ umělou inteligencí na úrovni chatovacích robotů, které mohou třeba pomoci sjednat pojistku. Studie Allianz však do roku 2040 předvídá rozšíření tzv. „silné“ umělé inteligence, tedy robotů, které budou schopné sami řešit komplexní problémy.
Rozšíření umělé inteligence do všech oborů lidské činnosti přinese mnoho výhod, ale také nových problémů. Firmy zvýší efektivitu, ubydou rutinní činnosti, vykonávané lidmi, zvýší se bezpečnost autodopravy, zdravotnictví prodělá revoluci a díky systémům chytrých měst budeme moci lépe korigovat dopad působení člověka na životní prostředí. Díky využití umělé inteligence se také budeme umět lépe bránit proti běžným hackerským útokům.
Výčet nevýhod a rizik rozvoje umělé inteligence je však podobně dlouhý. Vyšší propojenost systémů v dané firmě, nebo firmy s místními či globálními sítěmi, zvýší zranitelnost podniků vůči útokům zvenku. Povedený kyberútok způsobí mnohem větší ztráty než dosud, zejména pokud bude podobný způsob útoku v krátké době zopakován na stejných robotech v různých firmách. Už dnes bychom proto měli začít pracovat na přípravě efektivního záchranného systému, ale zejména na prevenci těchto (předvídatelných) situací.
Allianz ve své studii varuje před zbrklým zaváděním nových technologií. Ani při snaze „být první“ by neměla být opomenuta prevence proti katastrofickým scénářům. AGCS doporučuje zaměřit se v případě umělé inteligence na těchto pět klíčových oblastí a řešit je systematicky na úrovni firem i vlád:
1) Otevřenost softwaru - Je třeba vyřešit dilema, zda má být zdrojový kód softwaru umělé inteligence veřejně přístupný pro komunitu vývojářů či ne. Pokud bude k dispozici široké veřejnosti, minimalizuje se riziko programovacích chyb. Na druhou stranu také roste riziko, že někdo chybu objeví, zamlčí ji a v budoucnu jí zneužije.
2) Bezpečnost - Před uvedením do prodeje musí být zařízení plně připravena na reálný svět. To je obtížné z hlediska jeho komplexity, ale také kvůli tlaku na rychlý vývoj. Je třeba postupovat s maximální obezřetností a nastavit adekvátní pravidla.
3) Zodpovědnost - Kromě odpovědného vývoje a testování zahrnuje tato položka také potřebu naprogramovat roboty tak, aby jejich rozhodování bylo transparentní a kontrolovatelné. Každý krok robota by měl být zpětně odůvodnitelný. Veřejnost má mít tzv. právo na vysvětlení.
4) Ručení - Zásadní otázka nejen pro oblast pojišťovnictví: Kdo bude ručit za kroky robota, které udělá na základě vlastního uvážení - vývojář, majitel, nebo přijdeme s nějakým úplně jiným, novým řešením? Zatím je nejpravděpodobnější převzetí odpovědnosti výrobcem.
5) Etika - Se zaváděním umělé inteligence se pojí řada etických otázek, na jejichž řešení bychom měli urychleně začít pracovat. Již dnes se vývojáři setkávají s tím, že naprogramovat správné řešení není vůbec jednoduché, například v případě krizových situací při autonehodách.
Další články
© 2024 autoweek.cz. Veškerá práva vyhrazena | O autoweek.cz