Spoločnosť OpenAI ohlásila novú stratégiu pre svoj nástroj ChatGPT, ktorá radikálne mení prístup k používateľom mladším ako 18 rokov. V blogovom príspevku CEO Sam Altman vysvetlil, prečo bude bezpečnosť tínedžerov novou prioritou, a to aj za cenu kompromisov v oblasti súkromia a slobody.
Spoločnosť OpenAI, ktorá stojí za jazykovým modelom ChatGPT, dnes oznámila zavedenie série opatrení zameraných na zvýšenie ochrany maloletých používateľov. Podľa slov CEO Sama Altmana firma pristupuje k zložitej dileme, kde sa stretávajú tri kľúčové princípy: sloboda prejavu, súkromie používateľa a bezpečnosť tínedžerov. Nová politika jasne stanovuje, že ochrana maloletých bude mať prednosť.
Dilema medzi slobodou a ochranou
Sam Altman vo svojom príspevku otvorene priznal, že tieto princípy sú často v konflikte. Kým cieľom OpenAI je poskytnúť dospelým používateľom maximálnu slobodu pri využívaní AI v rámci bezpečnostných mantinelov („Zaobchádzajte s našimi dospelými používateľmi ako s dospelými“), pri tínedžeroch (vek 13-17 rokov) bude platiť iný meter.
„U tínedžerov uprednostňujeme bezpečnosť pred súkromím a slobodou. Ide o novú a výkonnú technológiu a veríme, že maloletí potrebujú výraznú ochranu,“ uviedol Altman.
Ako bude ochrana fungovať v praxi?
Kľúčovým prvkom novej stratégie je zavedenie systému na odhadovanie veku používateľa. Tento systém nebude primárne vyžadovať doklady, ale bude analyzovať spôsob, akým používateľ s ChatGPT komunikuje. Ak systém vyhodnotí, že by mohlo ísť o osobu mladšiu ako 18 rokov, automaticky aktivuje prísnejší režim.
Nové pravidlá pre tínedžerov budú zahŕňať:
- Obmedzenie citlivého obsahu: Na rozdiel od dospelých, ktorí si môžu vyžiadať napríklad pomoc s napísaním fiktívneho príbehu so zložitou témou, tínedžerom bude takýto obsah odopretý. Model bude trénovaný tak, aby sa vyhýbal témam ako sebapoškodzovanie, samovražda či flirtovanie, a to aj v kreatívnom kontexte.
- Aktívna intervencia pri ohrození: Najvýraznejšou a potenciálne najkontroverznejšou zmenou je plán aktívne zasiahnuť. Ak systém u používateľa identifikovaného ako tínedžer zaznamená samovražedné myšlienky, OpenAI sa pokúsi kontaktovať jeho rodičov. V prípade bezprostredného ohrozenia života bude spoločnosť kontaktovať priamo príslušné orgány.
- Overenie veku a rodičovská kontrola: V niektorých krajinách alebo prípadoch môže OpenAI pristúpiť aj k vyžiadaniu dokladu totožnosti na potvrdenie veku. Spoločnosť zároveň pracuje na nástrojoch rodičovskej kontroly, ktoré dajú rodičom lepší prehľad a kontrolu nad tým, ako ich deti ChatGPT používajú.
Budúcnosť AI je v personalizácii pravidiel
Tento krok signalizuje dôležitý posun v prístupe k umelej inteligencii. Namiesto jednotných pravidiel pre všetkých sa OpenAI uberá cestou diferencovaného prístupu podľa vekových kategórií. Hoci firma priznáva, že zavedenie odhadu veku či nutnosť overovania totožnosti predstavuje kompromis v súkromí dospelých, považuje ho za „hodnotnú výmenu“ za ochranu zraniteľnejšej skupiny používateľov.
Rozhodnutie OpenAI pravdepodobne vyvolá širokú debatu o hraniciach medzi ochranou, cenzúrou a súkromím v digitálnom veku. Zároveň však nastavuje nový štandard zodpovednosti pre technologických gigantov, ktorí čelia rastúcemu tlaku na ochranu mladších používateľov na svojich platformách.
Zdroj: Zdroj 1
Zdieľať a následne na Pridať na plochu.
