Aké sú riziká použitia AI a ako ich EduPage znižuje?

AI robí chyby.
AI je veľká pomoc, ale nie je vševediaca. AI sa môže – rovnako ako ľudia - mýliť. Môže však za vás aj urobiť veľa práce. Ide o to nájsť spôsob, ako by mohla byť pre Vás užitočná. Áno, sem tam urobí trápnu chybu alebo si vymyslí nové neexistujúce slovo. Ak však upraví 99% zvyšného textu a nájde chyby, ktoré ste prehliadli, pomôže vám to. Výsledok treba samozrejme skontrolovať.

AI môže mať názor.
AI rovnako ako človek čerpá z informácií okolo seba. To, aké informácie dostala, určuje aj to, čo odpovie. Napríklad AI nikdy nevidela jahody, a teda nevie, či jahody sú modré alebo červené. AI bola vytrénovaná na veľkom množstve článkov, ktoré pravdepodobne konštatovali, že jahody sú červené. Tu je odpoveď AI na otázku, či sú jahody červené alebo modré:

"Jahody sú červené. Existujú aj menej bežné odrody jahôd, ktoré sú biele, žlté alebo oranžové, ale klasické jahody, ktoré sa bežne pestujú a konzumujú, sú červené.

Farba jahôd je spôsobená prítomnosťou antokyánov, čo sú flavonoidy, ktoré dodávajú ovociu a zelenine červenú, fialovú alebo modrú farbu. V jahodách sú antokyány koncentrované v šupke plodu, a preto je šupka červená, zatiaľ čo dužina je biela.

Ak si všimnete, že jahody sú modré, môže to znamenať, že sú plesnivé. Plesne produkujú modré alebo sivé pigmenty, ktoré sa môžu objaviť na povrchu jahôd. V takomto prípade by ste jahody nemali jesť."

AI vie, že jahody, ktoré jeme, nie sú modré. Vie, prečo sú červené a nezabudla nás varovať, že modré sú asi plesnivé. Ak by však niekto zámerne pri učení AI používal články, že jahody sú modré, AI by odpovedala, že sú modré. Toto platí pre všetky druhy odpovedí. AI sa pri všetkých odpovediach snaží odpovedať opatrne, niekedy až príliš. Napriek tomu odpoveď môže niektorej skupine ľudí nesedieť, lebo sa podľa nich viac prikláňa k inému názoru alebo zbytočne zdôrazňuje iné uhly pohľadu.

Odporúčame preto, aby ste AI používali rozumne. Pre staršie deti môže byť užitočné stretnúť sa s iným názorom. Spoznať, kde má iný názor chybu a vedieť si obhájiť svoj. Pre mladšie deti je to ťažšie. Je komplikované určiť hranicu, kedy to ktoré dieťa zvládne. Oplatí sa však nájsť spôsob, ako dobre využiť možnosti, ktoré AI ponúka.

Ako EduPage eliminuje riziká pri použití AI?

V prvom rade si škola vie nastaviť, ktoré funkcie chce použiť. Pri väčšine akcií je funkcia AI iba poradná. AI poradí ako text zmeniť. Odhadne, či správa je nevhodná. Ale človek sa nakoniec rozhodne, či výsledok akceptuje.

EduPage AI obmedzuje konverzáciu na školské témy. Na rozdiel od komerčných modelov EduPageAI by nemalo žiakovi odpovedať mimo zvoleného predmetu.

Zároveň si učiteľ vie pozrieť, čo sa žiak pýtal, aj ako AI odpovedala. Rovnako túto informáciu vidí aj rodič.

Ďalším zabezpečením je použitie rozšírenej AI – túto nemajú bežne k dispozícii žiaci na bezplatných službách. Pri rozšírenej AI je menšie riziko, že žiak sa dozvie nepravdivé informácie.

Žiaci voľne dostupné AI služby s najväčšou pravdepodobnosťou už používajú. Na rozdiel od EduPage AI však bez kontroly. Zrejme je výhodnejšie, aby sa rozprávali v prostredí, ktoré má nastavených viac limitov a kde rodič a učiteľ má šancu zasiahnuť.

Poznámka:
Nechceli sme AI limitovať iba na materiály vytvorené školou. Súčasné AI modely su vytrénované na obrovskom množstve dostupných informácií. Niektoré z nich nikdy neboli preložené do slovenčiny. Je škoda limitovať vedomosti detí z biológie iba na obsah konkrétnej učebnice, ak majú záujem skutočne pochopiť procesy v živom organizme a nie iba naučiť sa naspamäť boldom vyznačené časti v knihe. AI sa dá celkom rozumne porozprávať a nechať si vysvetliť aj veci, ktoré nie možné z kapacitných dôvodov spomenúť v učebnici.

Viac návodov: EduPage AI - umelá inteligencia