Umělá inteligence může být zaujatá

Umělá inteligence může být zaujatá

Společnosti a instituce, které plánují zavést umělou inteligenci (AI), musí kromě aspektů souvisejících s etikou a ochranou osobních údajů dbát také na standardy, které eliminují riziko škodlivých rozhodnutí. Umělá inteligence je totiž umělá technologie, která má ve své podstatě sklon k zaujatosti.

Každý den se používají mentální struktury, zjednodušené diagramy a nápady, které pomáhají organizovat realitu. Tvůrci řešení AI musí tyto podmínky vzít v úvahu, protože subjektivní interpretace dat může mít dopad na výstupní informace poskytované umělou inteligencí. Předpojatá data vedou k chybným nebo dokonce škodlivým výsledkům. Vzhledem k dynamickému rozvoji a rostoucímu využívání AI v různých sektorech ekonomiky je důležité si tato rizika uvědomovat a pracovat na jejich snižování.

Chyby ve výuce strojového učení

„Strojové učení, což je oblast umělé inteligence, umožňuje vytvářet samoobslužné systémy, které se „učí“ z poskytnutých dat. Tato technologie zpočátku využívá tréninková data, proto můžete vylepšit své analytické modely tak, aby v průběhu času představovaly stále přesnější výsledky. První informační pakety připravuje člověk, který hned na začátku rozhodne o výběru výstupních dat a směru, kterým se bude systém vyvíjet. Pokud systém přijme chybné předpoklady již v počáteční fázi vývoje modelu, budou jeho pozdější závěry také nesprávné,“ uvedl Petr Šlajchrt, Country Director společnosti SAS Institute pro Českou republiku.

Dodávání neúplných nebo chybných údajů do systému, které způsobí zkreslení výsledků analýzy, je pouze začátkem problému. Samoléčebná řešení dosud nebyla vyvinuta. Naopak existuje velká šance, že systém bude stále méně objektivní. Technologie, která se v současné době využívá, enormní výpočetní výkon a pokročilé algoritmy umožňují strojům činit tisíce rozhodnutí za minutu. To však bohužel znamená, že malé chyby rychle rostou a postupem času se stávají skutečnou hrozbou pro výsledky analýz, což může vést ke špatným rozhodnutím.

Rozmanitost v projektech AI

Odpovědný vývoj umělé inteligence vyžaduje rozmanitost. Zadané údaje musí brát v úvahu například různé věkové, etnické nebo sociální skupiny. Již ve fázi vytváření týmů pracujících na projektech umělé inteligence by měly být tyto faktory brány v úvahu. Tento přístup umožňuje dívat se na daný problém z různých hledisek, což se promítne do větší rozmanitosti zadávaných dat.

Nedostatečná rozmanitost již ve fázi poskytování dat systému může znamenat, že koncoví uživatelé nebudou moci používat řešení AI, například když systém nezohledňuje rozdíly mezi jednotlivými akcenty. Uživatel z Irska bude mluvit anglicky zcela odlišně od Američana. Když používá chatbota, může mít potíže se splněním pokynů. Taková zkušenost ho účinně odradí od dalších kontaktů se společností, což v širším pohledu může představovat vážnou překážku při budování dobrých zkušeností a loajality zákazníků.

SAS

SAS Institute je světovým lídrem v oblasti analytiky a AI. V současné době používá řešení SAS více než 83 000 společností a institucí ve 147 zemích, včetně 92 společností ze 100 nejlepších podle Fortune Global 500. Společnost vznikla v 1976 a zaměstnává 14 000 lidí. SAS Institute ČR působí v České republice od roku 1992. a je lídrem na trhu v oblasti analytiky a AI. Více než 300 konzultantů a odborníků na datovou vědu vytváří a implementuje řešení SAS pro téměř 200 tuzemských klientů. Řešení jsou určena všem odvětvím ekonomiky, vč. bankovnictví, pojišťovnictví, telekomunikace, energetika, průmysl, obchod, farmacie, zdravotnictví, věda a veřejná správa. www.sas.com. SAS vám zprostředkovává SÍLU VĚDOMOSTÍ.

Zdroj informací

SAS Institute a NejBusiness.cz

Datum

17. března 2021

Hledáme

Přihlášení

Přihlášení
E-mail:
Heslo:

Reklama

Facebook

Page generated in 1.704 seconds.
Redakční systém teal.cz naprogramoval Vítězslav Dostál