Advokát citoval neexistujúce rozsudky, vyhalucinované AI
Americká justícia sa ocitla pred vážnym problémom, ktorý dramaticky ilustruje riziká spojené so slepým spoliehaním sa na umelú inteligenciu. V štáte Oregon bol advokát Bill Ghiorse potrestaný pokutou vo výške 10-tisíc dolárov za to, že do svojho podania zahrnul citácie a judikatúru, ktoré boli vyfabulované umelou inteligenciou a predstavené ako reálne. Ako vyhlásil predseda senátu, sudca Scott Shorr, ide o materiály „vytvorené z ničoho“, čo podkopáva celý právny proces.
Prípad, ktorý sa týkal sporu o licenciu na predaj marihuany, sa stal významným varovaním pre celý právnický svet. Ghiorse sa odvolával na pätnásť neexistujúcich súdnych rozhodnutí a uviedol deväť citácií bez akéhokoľvek reálneho základu. Toto systematické zlyhanie ohrozuje dôveryhodnosť nie len jeho praxe, ale aj právneho systému ako celku, keďže presnosť a dôveryhodnosť sú v tejto profesii kľúčové.
Nezodpovedná ignorácia varovaní
Zarážajúce je, že na problém sa neprišlo len náhodou. Protistrana už v apríli 2025 upozornila advokáta, že uvedené prípady neexistujú. Napriek tomu Ghiorse ignoroval toto varovanie a súdne konanie pokračovalo ešte niekoľko mesiacov s nepresnými podkladmi. Až pri podaní na odvolacom súde sa sudcovia začali dôkladne zaoberať usudzovaním, čo viedlo k devastujúcemu verdiktu pre právnika.
Neprijateľné zlyhanie v právnickej praxi
Odvolací súd jasne uviedol, že predloženie neoverených alebo vymyslených materiálov predstavuje hrubé porušenie etických povinností právnika. V praxi, kde je absolútna presnosť nevyhnutná, ide o jedno z najvážnejších zlyhaní, ktoré si môže právnik dovoliť. Ghiorse sa bránil obvinením, že za jeho chyby môže umelá inteligencia, konkrétne nástroj podobný digitálnemu asistentovi od Googlu. Sud však neakceptoval túto argumentáciu a zdôraznil, že konečná zodpovednosť leží na advokátovi.
Riziká umelej inteligencie v právnickej sfére
Prípad z Oregonu nie je ojedinelý, no patrí medzi najvýraznejšie ukážky chýb v právnickej praxi, keď sa generatívne nástroje na tvorbu podaní používajú bez dôslednej kontroly. Tieto „halucinácie“ umelej inteligencie, teda presvedčivo formulované, ale úplne nepravdivé informácie, môžu pre právnikov spôsobiť vážne problémy. Ako umelá inteligencia čoraz viac preniká do každodennej praxe rôznych profesií, stáva sa takýmto varovaním, ktoré má daleko presahujúci dosah než len na jeden konkrétny prípad.
Budúcnosť s AI v právnickej praxi
Technológie môžu zrýchliť prácu, ale prinášajú so sebou aj riziká, ktoré si nie všetci dokážu uvedomiť. Umelá inteligencia môže viesť k nebezpečnej skratke v logike argumentácie a k rozšíreniu zavádzajúcich informácií, ktoré sú v niektorých kontextoch ťažké odhaliť. Tento incident tak zdôrazňuje dôležitosť kritického myslenia a dôsledného overovania faktov, predtým než sa technológie skutočne integrujú do profesionálnej sféry.
