Univerzita Karlova (Dále UK) podporuje využívání nástrojů a vzdělávání se v oblasti generativní umělé inteligence (dále jen „AI“) studujícími i akademickými pracovníky a dalšími zaměstnanci UK.
Toto užití však musí být v souladu s legislativními normami, právním řádem ČR, obecnými etickými principy a principy akademické integrity, vnitřními předpisy Univerzity Karlovy a jejích součástí.
Toto doporučení poskytuje obecný rámec a pravidla práce s generativní umělou inteligencí v závěrečných pracích. Zároveň je však pouze doporučující; jednotlivé fakulty si mohou samy stanovit, do jakého stupně využití budou generativní AI a v jaké oblasti tvorby závěrečné práce povolovat, případně nastavit další vlastní pravidla a omezení.
Doporučujeme tedy sledovat nařízení, týkající se generativní AI na jednotlivých fakultách (např. sdělení děkana, opatření děkana, vyjádření vedení fakulty) a v případě pochybností konzultovat užití generativní AI s vedoucím práce.
Za každou odevzdanou práci vždy plně odpovídá studující, a to i v případech, kdy v rámci jejího vypracování využívá generativní AI. Studující jsou vždy povinni pečlivě kontrolovat veškeré výstupy, na kterých se podílí generativní AI, ověřovat jejich správnost a generativní AI zakomponovat do práce způsobem, který odpovídá pravidlům akademické etiky a zadání práce.
Autorem/autorkou závěrečné práce je vždy studující, který je zároveň zodpovědný za faktickou správnost veškerého obsahu a za kvalitu textu. Pokud by se v práci vyskytly chyby způsobené generativní AI, nelze se na ně zpětně odvolávat; odpovědnost za jejich odstranění i za finální podobu odevzdaného díla nese výhradně studující.
V souladu se Stanoviskem Univerzity Karlovy platí, že používání nástrojů generativní AI musí být zejména transparentní.
To znamená, že studující by měli na začátek práce připojit stručné prohlášení, ve kterém pravdivě a konkrétně popíšou, jak, v jakém rozsahu a k jakému účelu během zpracování práce využil jaké nástroje generativní AI. (V případě potřeby může být toto prohlášení podrobně rozvedeno v samostatné příloze).
Toto prohlášení je důležitým podkladem pro posouzení originality práce. Je možné využít připravený vzor – Prohlášení o užití AI v závěrečné práci, který pomůže studujícím jasně a strukturovaně shrnout veškeré relevantní informace.
Jak napsat prohlášení o užití generativní AI?
Při využívání nástrojů generativní AI je nezbytné důsledně dodržovat pravidla bezpečného užívání těchto nástrojů. Některé modely generativní AI jsou trénovány na datech, která do nich uživatelé vkládají, případně jejich poskytovatelé využívají uživatelem vložená data ke „zkvalitňování služeb“. Nejsou navrženy tak, aby zajišťovaly důvěrnost nebo chránily osobní údaje – veškeré informace vložené do prostředí generativní AI mohou být využity k dalšímu trénování modelu nebo se stát veřejnými.
Proto je zakázáno do generativních AI nástrojů vkládat jakákoli osobní, citlivá nebo chráněná data, zejména informace, které jsou v Tabulce stupňů ochrany dat označeny jako chráněné. Výjimkou jsou prověřené a schválené nástroje (na univerzitě např. MS Copilot) či modely generativní AI provozované lokálně (za předpokladu, že budou ze strany UK vyhodnoceny jako bezpečné).
Studující se zavazuje také nepoužívat generativní AI nástroje, které byly vyhodnoceny NÚKB a UK jako potenciálně nebezpečné.
Opatrnost a odpovědné zacházení s daty jsou základními předpoklady při práci s nástroji generativní AI na akademické půdě.
Více o ochraně dat se dočtete zde.
Pokud studující využívá generativní AI při tvorbě své práce – například pro generování obrázků, diagramů nebo pasáží textu – je povinen tuto generativní AI řádně uvést.
Generativní AI by v takovém případě měla být citována jako nástroj v prohlášení o užití generativní umělé inteligence při tvorbě závěrečné práce.
Ve speciálních případech je generativní umělá inteligence užívána jako zdroj dat – například při výzkumu statistických vlastností vygenerovaného textu. V takových případech by měla být citována podle citační normy, která byla pro danou práci zvolena (například dle APA, ČSN ISO 690 nebo jiné).
Generativní AI je důležité vnímat primárně jako nástroj, který modifikuje či generuje obsah na základě vložených instrukcí a dat, nikoli jako spolehlivý zdroj informací (ten představuje zejména primární a sekundární literatura). Proto také studující nese za výsledný výstup odpovědnost, podobně jako při využití jakéhokoli jiného digitálního nebo výpočetního nástroje. Výstup generativní AI představuje výsledek interakce mezi autorem a nástrojem, nikoli odborně ověřený či nezávislý zdroj informací.
Je důležité si ověřit, zda právě použitá citační norma obsahuje konkrétní doporučení pro citování generativní AI; některé normy už tuto možnost detailně popisují, jiné nikoli.
Více informací o citování najdete zde
Studující má plné právo užití generativní AI při zpracování své práce odmítnout bez udání důvodu. Někteří studující vždy upřednostňují vlastní samostatnou práci a mohou mít obavy, že využívání generativní AI by negativně ovlivnilo rozvoj jejich schopností a kritického myšlení. Jiní mohou mít výhrady z morálních, environmentálních nebo dalších důvodů. Každý studující se může svobodně rozhodnout, zda a v jakém rozsahu generativní AI do procesu psaní závěrečné práce zapojí, či nikoliv, a tento postoj musí být respektován.
Způsob využití generativní umělé inteligence v rámci závěrečných prací může mít velmi různorodou podobu – od jazykových úprav textu, zpracování dat, přes sumarizaci literatury až po pomoc při formulaci struktury nebo poskytnutí zpětné vazby k textu.
S ohledem na tuto rozmanitost nelze jednoznačně a univerzálně stanovit, co je a co není přípustné ve všech oborech a typech prací.
Je proto důležité, aby studující konzultoval své konkrétní záměry s využitím AI se svým vedoucím práce/školitelem. Otevřená komunikace se vedoucím práce/školitelem pomáhá předejít nejasnostem nebo nedorozuměním při hodnocení a zároveň vede studující k odpovědnému a promyšlenému využívání Generativní AI v akademickém kontextu.
Modely generativní AI jsou trénovány mimo jiné na datech, která do nich vkládají jejich uživatelé. Proto nejsou zpravidla navrženy tak, aby zajišťovaly jejich důvěrnost nebo chránily informace, které jsou s chatboty a jinými nástroji sdíleny.
Když tedy studující interagují s nástroji generativní AI, měli by vždy zhodnotit, jaká data a do jakých nástrojů vkládají. Platí při tom, že nesou zodpovědnost za případné porušení ochrany dat.
Z hlediska právní i etické odpovědnosti je nutné mít na paměti, že některá data podléhají zvláštní ochraně – zejména osobní a citlivé údaje podle legislativy (např. GDPR) by neměly být vkládány do nástrojů generativní AI (s výjimkou některých tzv. lokálních modelů).
Interní univerzitní data nebo neveřejné studijní materiály je možné sdílet pouze v nástrojích generativní AI, které Univerzita Karlova výslovně doporučuje jako bezpečné (např. nástroje s jasně ošetřenou licencí nebo smluvním ujednáním o netrénování dat), nebo v rámci ověřených lokálních řešení.
Nejbezpečnější a nejodpovědnější cestou je vždy využívat nástroje schválené a spravované univerzitou, což je momentálně Microsoft Copilot for education (s přihlášením k univerzitnímu účtu UKČO@cuni.cz).
Ve všech případech doporučujeme přistupovat k práci s generativní AI obezřetně a citlivě zvažovat charakter sdílených dat.
Více se o ochraně dat dočtete zde.
V současné době neexistuje technicky spolehlivý způsob, jak s jistotou odhalit využití generativní AI. Přestože jsou dostupné různé „detektory AI", zatím se ukazuje, že jsou z principu nespolehlivé a chybové. Nicméně existují ukazatele indikující míru a způsob použití generativní AI při psaní závěrečné práce. V případě zjištění nedeklarovaného použití generativní AI nebo v nepovoleném rozsahu může vést k zahájení řízení o vyslovení neplatnosti vykonání státní zkoušky.
Doporučujeme tedy využívat nástroje generativní AI eticky a transparentně. Studující by měl k práci přiložit Prohlášení o užití umělé inteligence a konzultovat užití generativní AI s vedoucím práce.
Psaní závěrečné práce není jen studijní povinnost, ale také příležitost se leccos naučit, nebo si procvičit dovednosti z předchozího studia: ponořit se do studia konkrétního tématu, utřídit si své myšlenky, pochopit myšlení jiných autorů a na základě toho vystavět práci většího rozsahu, než které studující zpracovávali v předchozím studiu.
Pokud některé, nebo dokonce všechny tyto kroky zastane AI, žádnou z těchto schopností studující nerozvinou, nebo jen v menším rozsahu. I to je třeba zvažovat při tom, kdy se studující – ideálně společně se svým školitelem – rozhodují, které nástroje AI a k jakému účelu při tvorbě své práce použijí.
Níže jsou popsány různé způsoby, jakými může být umělá inteligence zapojena do procesu zpracování závěrečné práce. Jednotlivé činnosti jsou rozděleny do tří stupňů podle toho, jak zásadním způsobem ovlivňují výsledné dílo – od nejméně zásadního prvního stupně až po kritický třetí stupeň.
Jednotlivé stupně jsou označeny barvami, které odpovídají doporučením Pracovní skupiny pro generativní AI na Univerzitě Karlově. Tato skupina doporučuje umožnit volné využití AI prvního stupně (zde postačí vyplnění Prohlášení o užití umělé inteligence), druhý stupeň využití vždy konzultovat s vedoucím práce a třetí stupeň využití zcela zakázat.
Tento seznam je pouze doporučující; jednotlivé fakulty si mohou samy stanovit, do jakého stupně využití budou generativní AI v jaké oblasti tvorby závěrečné práce povolovat, případně nastavit další vlastní pravidla a omezení. Účelem je poskytnout návod a inspiraci. Přizpůsobení oborovým specifikům je pak ponecháno v gesci fakult.
Doporučujeme tedy sledovat nařízení, týkající se generativní AI na jednotlivých fakultách (např. sdělení děkana, opatření děkana, vyjádření vedení fakulty) a v případě pochybností konzultovat užití generativní AI s vedoucím práce.
|
Tvorba a kompozice textu |
||
|
Stupeň 1 |
Konzultace základní myšlenky textu, diskuse o hlavních tezích textu, generování návrhu osnovy textu, získání zpětné vazby na myšlenky či vlastní části textu během tvorby textu nebo po jeho dokončení. Generovaný text není přímo vkládán do těla závěrečné práce. |
|
|
Stupeň 2 |
Generování textu z textových, zvukových či jiných poznámek, Přeformulování vlastního textu, Komplexní užití nástrojů jako je Microsoft Copilot 365 v nástrojích Microsoft (Excel, Word apod.) |
|
|
Stupeň 3 |
Vytvoření celé práce pomocí promptů, kde studující vystupuje pouze v roli editora, generování celých částí textu |
|
|
Jazyková a stylistická úprava práce |
||
|
Stupeň 1 |
Gramatická oprava jednotlivých slov nebo úseků, oprava syntaxe |
|
|
Stupeň 2 |
Stylistická korektura úseků práce |
|
|
Stupeň 3 |
Nahrávání velkých úseků textu nebo celé práce a jejich stylistické přepsání nástroji AI |
|
|
Překlady |
||
|
Stupeň 1 |
Konzultace vlastního překladu s nástroji generativní AI |
|
|
Stupeň 2 |
Oprava vlastního překladu nástroji generativní AI, překlad určitých částí práce nástroji generativní AI |
|
|
Stupeň 3 |
Nahrání celého textu nebo jeho podstatných částí a jejich kompletní překlad |
|
|
Vyhledávání, čtení a interpretace zdrojů |
||
|
Stupeň 1 |
Provedení základní rešerše dostupných zdrojů, konzultace strategií pro samotnou rešerši, konzultace rešeršních dotazů, konzultace pomáhající porozumění |
|
|
Stupeň 2 |
Analýza konkrétní literatury – prioritizace, generování rešeršních dotazů, vypracování rešerše za pomocí nástrojů jako Konsenzus, Perplexity, Elicit |
|
|
Stupeň 3 |
Sepsání Přehledu literatury (Literature review) |
|
|
Tvorba odvozeného obsahu |
||
|
Stupeň 1 |
Konzultace podoby vlastního odvozeného obsahu (abstrakt, bibliografie, rejstřík), generování mediálního obsahu jako jsou doprovodné obrázky, grafy, náčrty |
|
|
Stupeň 2 |
Generování odvozeného obsahu (abstrakt, bibliografie, rejstřík) |
|
|
Stupeň 3 |
Generování úvodu a závěru práce |
|
|
Analýza a interpretace dat |
||
|
Stupeň 1 |
Konzultace strategií a konkrétních metod pro analýzu a interpretaci dat
|
|
|
Stupeň 2 |
Generování konkrétních analytických postupů (např. syntaxe pro statistický software, analytických kódů) Generování způsobů interpretace výsledků analýzy |
|
|
Stupeň 3 |
Generování zásadních částí nebo celé analýzy a/nebo interpretace dat. |
|
Ochrana dat Rychlý start s promptováním Seznam nástrojů AI na UK Doporučení pro studující Bezpečné užívání AI na UK Vzor Prohlášení o užití generativní AI