Kľúčové požiadavky na dôveryhodnú umelú inteligenciu

Školy sú povinné zabezpečiť, aby všetky údaje, ktoré spracúvajú, boli uchovávané dôverne a bezpečne. Musia mať zavedené vhodné politiky a postupy na ochranu a etické používanie osobných údajov v súlade s GDPR.

Používaním systémov umelej inteligencie sa môže potenciálne zlepšiť vyučovanie, vzdelávanie a hodnotenie, môžu sa získať lepšie vzdelávacie výstupy a môže sa pomôcť školám efektívnejšie fungovať. Ak však aplikácie umelej inteligencie nie sú správne navrhnuté alebo sa nepoužívajú obozretne, môže to mať škodlivé následky.

„Etická umelá inteligencia“ sa používa na označenie vývoja, zavedenia a využívania umelej inteligencie, ktorá zabezpečuje súlad s etickými normami, etickými zásadami a súvisiacimi základnými hodnotami.

Chybné predstavy o umelej inteligencii

JE PRÍLIŠ NÁROČNÁ NA POCHOPENIE – Dôležitejšie je to, aby si pedagógovia uvedomovali obmedzenia systémov umelej inteligencie a to, ako možno tieto systémy využiť na podporu výučby bezpečným a etickým spôsobom.

NEMÁ ŽIADNU ÚLOHU VO VZDELÁVANÍ – Umelá inteligencia už teraz mení spôsob, akým sa učíme. Môžeme otvoriť cestu pre riešenia umelej inteligencie, ktoré sa budú vyvíjať a používať etickým, dôveryhodným, spravodlivým a inkluzívnym spôsobom.

NIE JE INKLUZÍVNA – Môže viesť k novým formám nerovností alebo diskriminácie a zhoršiť tie existujúce. Môže však ponúknuť aj príležitosti na zlepšenie začlenenia. Má potenciál poskytovať vzdelávacie zdroje pre žiakov so zdravotným postihnutím a špeciálnymi potrebami, napr. živé titulky v reálnom čase, audiokomentár.

SYSTÉMOM UMELEJ INTELIGENCIE NEMOŽNO DÔVEROVAŤ – Vzdelávacie orgány a školy by mali byť schopné overiť, či sú systémy umelej inteligencie v súlade s regulačným rámcom pre umelú inteligenciu a zamerať sa na etické používanie umelej inteligencie.