Název projektu
Umělá inteligence – právo, etika a možnosti využití ve vzdělávání
Kód
SP2024/060
Předmět výzkumu
Předmětem výzkumu v rámci projektu je analyzovat význam umělé inteligence a poskytnout komplexní pohled na právní otázky spojené s umělou inteligencí, identifikovat výzvy a příležitosti v této oblasti a přispět k formování adekvátního právního rámce pro využívání umělé inteligence v souladu s etickými principy a právními normami, včetně limitů její aplikace v jednotlivých oborech a ve vzdělávání.
Umělá inteligence se postupně promítá do osobních i pracovních oblastí, do téměř všech průmyslových odvětví i služeb, kolikrát i tam, kde bychom to nečekali. Aplikace umělé inteligence, jako jsou ChatGPT, GitHub Copilot, Stable Diffusion a další, využívá veřejnost a zaujala snad každého svou schopností vést až nadpřirozenou konverzaci s uživatelem (McKinsey 2023). Navíc se technologie generativní umělé inteligence vyvíjí rychleji, než se se systémem seznamuje veřejnost. ChatGPT byl vydán v listopadu 2022. O čtyři měsíce později společnost OpenAI vydala nový velký jazykový model neboli LLM s názvem GPT-4 s výrazně vylepšenými schopnostmi. Společnost McKinsey (McKinsey 2023) ve své zprávě uvádí, že AI bude mít významný dopad do všech průmyslových odvětví, může změnit způsob práce a automatizovat pracovní činnosti. Řešitelé projektu považují za důležité pochopit potenciál AI a identifikovat konkrétní oblasti, kde může AI přinášet největší hodnotu a inovace, s cílem vysvětlit příležitosti a rizika pro jednotlivé subjekty, s promítnutím do vzdělání.
S rychlým vývojem AI a jejím používáním napříč odvětvími se objevují a diskutují právní a etické otázky s tím související, přicházejí první spory v souvislosti s AI. Podle předběžných odhadů to budou právě profese spojené s právem, které budou zasaženy těmito změnami nejvíce. Jelikož je umělá inteligence využívána také k automatizaci opakujících se jednoduchých úkolů, může velmi snadno nahradit základní administrativní a právní práci v právních kancelářích Nicméně tam, kde začínáme objevovat možnosti, které spojení umělé inteligence a práva přináší, narážíme zároveň i na limity a otázky, které jsou doposud nevyřešeny. Základem je samozřejmě odpovědnost. Zatímco v případě osobní konzultace s právníkem je zcela bez pochyby, kdo za poskytnutou radu nese odpovědnost, pokud vám takovouto radu poskytne stroj (aplikace založená na umělé inteligenci), veškerá doposud zavedená schémata se nám sesypou jako pomyslný domek z karet. Uvedené je možné aplikovat i na další služby. Záměrem projektu je analyzovat právní otázky spojené s využíváním umělé inteligence a analyzovat případy právních sporů ohledně umělé inteligence. Dle názoru členů řešitelského týmu nelze rozvoj umělé inteligence zastavit, a v současné chvíli ani přibrzdit. Je třeba si zvyknout na to, že prvky umělé inteligence se stanou nedílnou součástí našich životů, a bude pouze otázkou času, kdy bude přijata odpovídající právní regulace, která by vývoj umělé inteligence upravila. A jak potvrzuje (Maisner 2023) nejprve je pokrok a pak se teprve připraví regulační rámec.
Další oblastí, se kterou se pro změnu budou muset vypořádat nejen vysoké školy, ale také školy základní a střední, je oprávněnost používání nástrojů umělé inteligence při zpracování výstupů, na kterých je založeno hodnocení studenta. Doposud také není vyřešena ani otázka autorskoprávní ochrany zdrojů, které jsou umělou inteligencí využívány, případně i výstupů vygenerovaných umělou inteligencí z náhodných všeobecně známých informací. Žáky a studenty ale musíme na tuto situaci připravit a naučit využívat AI v právních i etických mezích. Nepostradatelnou se tak vedle finanční a právní gramotnosti stane i tzv. gramotnost digitální, která se podle řešitelů musí co nejrychleji promítnout studijních programů vysokých škol i osnov škol, ale i do školících programů zaměstnavatelů. Zaměstnavatelé již postupně začínají ve svých společnostech školit své manažery a ostatní zaměstnance ohledně umělé inteligence a datové vědy. Je tady žádoucí seznámit studenty s digitální gramotností a AI již v průběhu studia vysoké školy a připravit absolventy pro moderní zaměstnavatele. Proto bude část projektu zaměřena na ověření stavu využívání AI studenty, a to jak osobním životě, tak při studiu, případně jejich zkušenosti u zaměstnavatelů.
Etická otázka je spojena s případným rozvojem umělé inteligenci pro futuro. Již nyní máme k dispozici ChatGPT od spol. OpenAI čtvrté generace, který dokáže náhodně generovat obrázky a také z dostupných vzorků hlasu vygenerovat mluvené slovo. Tímto se posouvají hranice a možnosti zásahu do lidského soukromí a osobnosti člověka. Chystaná pátá generace této oblíbené aplikace může vnímání tohoto fenoménu ještě více urgovat. Ve spojení s právní a vzdělávací oblastí je nutné v kontextu analyzovat etické otázky spojené s využíváním umělé inteligence, neboť uvedené spolu velice úzce souvisí a vzájemně se propojuje.
SOUČASNÝ STAV A REŠERŠE
Definic umělé inteligence je nespočet. Pokud se zeptáme ChatGPT jak definuje umělou inteligenci, dostaneme následující odpověď: „Umělá inteligence (UI) představuje obor informatiky, který se zaměřuje na vytváření počítačových systémů, schopných provádět úkoly, které obvykle vyžadují lidskou inteligenci. To zahrnuje schopnost učení, rozpoznávání vzorů, rozhodování, plánování a interakci s okolím. V rámci umělé inteligence jsou vytvářeny algoritmy a modely, které umožňují počítačům simulovat různé aspekty lidské inteligence. Cílem UI je vytvořit systémy, které mohou adaptovat své chování na základě získaných zkušeností a efektivně řešit různorodé úlohy včetně rozpoznávání obrazu, přirozeného jazyka a autonomního rozhodování. UI může být klasifikována jako slabá, když je specializovaná na konkrétní úkoly, nebo silná, pokud má schopnost plně nahradit lidskou inteligenci ve všech oblastech. V současné době jsou klíčovými oblastmi výzkumu v UI techniky jako strojové učení a hluboké učení, které přispívají k rozvoji pokročilých a adaptabilních umělých inteligencí.“ (ChatGPT 3.5 2023). (Maisner 2023) uvádí, že zákonná definice neexistuje a pokud se nějaká představuje, je to momentální stav, neboť vývoj AI je velmi rychlý a je obtížné definici uchopit a regulovat. Definice v článcích a studiích jsou rozdílné, když důvodem je, že definice je odvozena pro konkrétní obor, oborovou perspektivu nebo aplikaci (Southworth et al. 2023).
Současné trendy v oblasti produktivity a práce zdůrazňují důležitost pochopení vlivu umělé inteligence na ekonomiku (Furman, Seamans 2019). Autoři studií zaměřené na umělou inteligenci se shodují, že organizace musí postupně začleňovat AI do svých systémů a procesů (Iansiti, Lakhami 2020; van de Wetering et al. 2023). (Davenport, Mittal 2023; van de Wetering et al. 2023) tvrdí, že společnosti musí výrazně investovat do umělé inteligence, aby byly i v budoucnu konkurenceschopné. Umělá inteligence a její technologie nabízejí podle (Wamba-Taguimdje et al. 2020) širokou škálu možností, výhod a služeb pro zlepšení organizační výkonnosti, a z hlediska inovací nasazení umělé inteligence velmi často pokrývá celý hodnotový řetězec organizace: výzkum a vývoj, údržbu, provoz, obchod i marketing, plánování a výrobu, prognózy poptávky a služby. Zároveň ale studie ukazují, že ne vždy je integrace AI ve společnosti úspěšná, neboť často společnostem chybí technologie, znalosti, strategie a občas i ochota riskovat. (Matei 2023) uvádí, že i společnosti, které jsou digitálně a technologicky vyspělé, mají problémy se zaváděním a přizpůsobováním se AI. Zároveň často chybí interpretace výhod a přínosů zavedení AI do podnikových procesů (Weber et al. 2022). A v neposlední řadě se zmiňuje údržba systémů zavedených AI a její provozování, pro které organizacím chybí proškolení zaměstnanci (Weber et al. 2022). Na zvyšování kvalifikace zaměstnanců ohledně AI upozorňují i (Davenport, Mittal 2023). Umělá inteligence ovlivňuje a bude ovlivňovat způsob, jakým se podniká a bude podnikat v budoucnu. Zaměstnavatelé, odborníci z praxe i vědečtí pracovníci proto musí považovat umělou inteligenci za cennou podporu (Wamba-Taguimdje et al. 2020) a u nových projektů přijmout AI jako pilotní projekt do svého podnikání či modelů. Z uvedeného je patrné, že vysoké školy musí rychle reagovat na zvyšující se poptávku zaměstnanců ovládajících aspekty datové gramotnosti a umělé inteligence v konkrétních oborech.
Umělá inteligence se začleňuje i do dalších oborů, jako zdravotnictví, právní služby i univerzitní a vědecké prostředí. To sebou přináší právní a etické otázky, které jsou relativně nové a neprozkoumané. V právních službách naráží využívání umělé inteligence na mantinely v podobě etiky (Holmes et al. 2022), ochrany dat a údajů klientů. Nicméně (Dohnal 2023) uvádí, že AI může právníkům usnadnit běžné úkoly, např. s automatizací rutinních úkolů, třídění dokumentů, může pro inspiraci předvídat výsledky sporů na základě analýzy předchozího jednání nebo zefektivnit zpracovávání elektronických dat vztahujících se k určitému případu. Rozhodně nemůže AI nahradit právní služby, i v souvislosti s dodržováním předpisů a zodpovědnosti ke klientům. A jak uvádí (Šlemr, Pulgret 2023) umělá inteligence nemá rozum a cit, a např. v soudnictví se musí stále zohlednit řada komponentů, dát do souvislostí se subjektivním rozhodnutím člověka, pouze člověk by měl v soudnictví rozhodovat o člověku.
Vysoké školy si již začínají uvědomovat problematiku využívání nástrojů umělé inteligence (AI) ve školním prostředí a hodnocení studentů. Postupné začlenění umělé inteligence do vzdělávání studentů je jedním z přístupů, jak poskytnout znalosti a dovednosti v oblasti umělé inteligence studentům potřebné pro další vývoj (Luckin et al. 2022; Southworth et al. 2023). Větší kompetence v oblasti umělé inteligence umožňuje studentům pochopit, co umělá inteligence znamená a jak ji lze efektivně využít, a tím poskytnout studentům větší potenciál úspěchu. Jak jsme již uvedli, umělá inteligence se již používá v mnoha různých oborech a není pochyb o tom, že bude součástí života jak studentů, tak i zaměstnavatelů. Začleněním této tématiky do vzdělávání znamená připravit současné studenty a budoucí generaci na budoucí pracovní výzvy a získat dovednosti, které jsou v oblasti umělé inteligence ceněné zaměstnavateli.
METODY PROJEKTU
Stanovený cíl bude naplněn pomocí sekundární analýzy článků o umělé inteligenci a jejich porovnáním a shrnutím s využitím metody indukce, dedukce, abstrakce a logiky.
Pro zjištění využívání umělé inteligence studenty vysokých škol bude využita metoda dotazníkového šetření a metody k vyhodnocení a experimentu. Řešitelský tým vytvoří strukturovaný dotazník, který bude obsahovat otázky zaměřené na účely, pro které studenti využívají umělou inteligenci. Dotazník bude dále zkoumat, do jaké míry jsou studenti obeznámeni s právními aspekty a etickými otázkami spojenými s umělou inteligencí. Vybranému vzorku studentů budou rozeslány e-maily s průvodním dopisem a odkazem na vyplnění dotazníku. Dotazník bude rozdělen do několika logických celků v souladu s dílčími cíli projektu. Otázky budou zaměřeny na objektivní i subjektivní údaje, otázky uzavřené, škálové, typu baterie, polouzavřené a otevřené (bude dána možnost doplnění názoru respondenta). Dotazníky budou ověřeny formou pilotního průzkumu z důvodu ověření pochopení jednotlivých otázek dotazníku. Dotazník bude rozeslán studentům EKF. Po sběru dat z dotazníku bude následovat analýza získaných informací na základě statistického vyhodnocení odpovědí z dotazníku, výsledky budou slovně i graficky vyhodnoceny a interpretovány. Experiment s vybranými studenty ověří současný stav využívání umělé inteligence a bude zaměřen na pochopení konkrétních situací, ve kterých studenti využívají umělou inteligenci, a umožní lépe porozumět jejich praktickým postojům k této technologii. Bude posuzována nejen efektivita, splnění úkolu, ale i subjektivní hodnocení studentů. Budou tak získána jak kvantitativní data z dotazníkového šetření, tak kvalitativní data z experimentu.
Pro získání dat k analýze využívání AI budou využity platformy a zdroje, které se zaměřují na sledování a dokumentaci využívání umělé inteligence v různých odvětvích a zdroje, které shromažďují informace o aplikacích umělé inteligence (např. AI Index apod.). Data jsou také dostupná ze studií prováděných různými společnostmi a institucemi (jako McKinsey Global Institute nebo třeba Deloitte AI Institute), které se týkají přímo využití AI v různých ekonomických odvětvích, v podnikání a společnosti.
POUŽITÉ ZDROJE A REŠERŠE LITERATURY
CHATGPT 3.5, 2023. Definuj umělou inteligenci. ChatGPT [online]. 15 December 2023. Retrieved from : https://chat.openai.com/
DAVENPORT, Thomas H. and MITTAL, Nitin, 2023. All-in On AI: How Smart Companies Win Big with Artificial Intelligence [online]. Harvard Business Review Press. ISBN 978-1-64782-469-3. Retrieved from : https://www.techtarget.com/searchenterpriseai/feature/Explore-real-world-examples-of-AI-implementation-success [accessed 14 December 2023].
DOHNAL, Jakub, 2023. Jak si advokáti díky umělé inteligenci můžou sami způsobit svůj zánik. Právní prostor. Vol. VIII, no. 12, pp. 1–4.
FURMAN, Jason and SEAMANS, Robert, 2019. AI and the Economy. Innovation Policy and the Economy. Vol. 19, pp. 161–191. DOI 10.1086/699936.
HOLMES, Wayne et al., 2022. Ethics of AI in Education: Towards a Community-Wide Framework. International Journal of Artificial Intelligence in Education. Vol. 32, no. 3, pp. 504–526. DOI 10.1007/s40593-021-00239-1.
IANSITI, Marco and LAKHAMI, Karim L., 2020. Competing in the Age of AI: Strategy and Leadership When Algorithms and Networks Run the World. Harvard Business Review Press. ISBN 978-1-63369-762-1.
LUCKIN, Rosemary et al., 2022. Empowering educators to be AI-ready. Computers and Education: Artificial Intelligence. Vol. 3, p. 100076. DOI 10.1016/j.caeai.2022.100076.
MAISNER, Martin, 2023. Aktuální otázky práva informačních technologií. Právní prostor [online]. 13 July 2023. Retrieved from : https://www.pravniprostor.cz/clanky/pravo-it/aktualni-otazky-prava-informacnich-technologii [accessed 15 December 2023].
MATEI, Denisa, 2023. Technology – Friend or Foe of Large Companies? The Impact in the Development of Innovative Strategies. In : . ISBN 978-83-67405-54-6. DOI 10.2478/9788367405546-047.
MCKINSEY, 2023. The Economic potential of generative AI: The next productivity frontier [online]. Retrieved from : https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-ai-the-next-productivity-frontier [accessed 14 December 2023].
ŠLEMR, Dominik and PULGRET, Lukáš, 2023. Umělá, resp. organoidní inteligence v soudnictví. Právní prostor [online]. 26 May 2023. Retrieved from : https://www.pravniprostor.cz/clanky/pravo-it/umela-resp-organoidni-inteligence-v-soudnictvi [accessed 15 December 2023].
SOUTHWORTH, Jane et al., 2023. Developing a model for AI Across the curriculum: Transforming the higher education landscape via innovation in AI literacy. Computers and Education: Artificial Intelligence. Vol. 4, p. 100127. DOI 10.1016/j.caeai.2023.100127.
VAN DE WETERING, Rogier et al., 2023. Architecting Agility: Unraveling the Impact of AI Capability on Organizational Change and Competitive Advantage. In : . ISBN 978-3-031-36756-4. DOI 10.1007/978-3-031-36757-1_12.
WAMBA-TAGUIMDJE, Serge-Lopez et al., 2020. Influence of Artificial Intelligence (AI) on Firm Performance: The Business Value of AI-based Transformation Projects. .
WEBER, Michael et al., 2022. Organizational Capabilities for AI Implementation—Coping with Inscrutability and Data Dependency in AI. Information Systems Frontiers. Vol. 25, pp. 1–21. DOI 10.1007/s10796-022-10297-y.
Rok zahájení
2024
Rok ukončení
2024
Poskytovatel
Ministerstvo školství, mládeže a tělovýchovy
Kategorie
SGS
Typ
Specifický výzkum VŠB-TUO
Řešitel