Wykorzystanie sztucznej inteligencji w sądzie
Wykorzystanie sztucznej inteligencji w sądzie ponownie przyciąga uwagę po tym, jak powódki w procesie o wielomilionowe odszkodowanie stwierdziły, że biegły sporządził ponad 80% swojej opinii przy użyciu ChatGPT. W pozwie wniesionym w Teksasie przez ofiary potężnej eksplozji w fabryce biegły znalazł się pod intensywną kontrolą, gdy prawnicy powódów odkryli, że użył sztucznej inteligencji do przygotowania raportu, który ich zdaniem miał faworyzować jego klientów, korporacyjnego giganta produkcyjnego 3M. Jeden ze wpisów, które biegły wprowadził do AI, by przygotować swoje zeznanie, brzmiał: „Pokaż, jak 3M ponosi 0% winy za eksplozję w Watson Grinding”.
Podczas przesłuchania biegły Jason Autenrieth, dyrektor ds. niezawodności i operacji w KnightHawk Engineering, przyznał, że korzystał ze sztucznej inteligencji przy redagowaniu raportu, jednocześnie broniąc swojej analizy. Eksperci prawni wskazali, że sprawa uwypukla nowe ryzyka związane z użyciem AI w trakcie procesów sądowych i spraw prawnych oraz ostrzegają, że jej zastosowanie może zagrozić wiarygodności zeznań lub dowodów przedstawianych przed sądem.
Maura Grossman, profesor badań na Uniwersytecie w Waterloo, zajmująca się . zastosowaniami AI w prawie i ochronie zdrowia, powiedziała stacji telewizyjnej, że firmy wykorzystujące te narzędzia do pracy prawnej powinny działać ostrożnie. „Wiemy, że te narzędzia są pochlebne, starają się przypodobać” — zauważyła. „Nie usłyszysz od nich obiektywnych czy neutralnych odpowiedzi. Otrzymasz treści ukierunkowane.”
W oświadczeniu skierowanym do mediów 3M poinformowało, że biegły w tej sprawie był niezależnym świadkiem zewnętrznym, a nie pracownikiem 3M, i został zatrudniony przez zewnętrznych prawników, aby przedstawić własną analizę i opinie. „Po niezależnym przejrzeniu faktów sprawy i wyciągnięciu własnych wniosków, użył AI jako narzędzia pomocniczego przy sporządzaniu raportu” — głosi oświadczenie. Autenrieth nie odpowiedział na wiadomości e-mail ani telefony z prośbą o komentarz. Jego adwokatka, Janina Wojtkowski, powiedziała, że choć Autenrieth korzystał z AI przy formatowaniu, strukturze i redagowaniu, zrobił to po przejrzeniu tysięcy stron materiałów, które mu dostarczono.
W oświadczeniu stwierdziła: „Nie delegował formowania swoich opinii na ChatGPT, ani AI nie zastąpiła jego profesjonalnego osądu” i że „ostatnie publiczne określenia stanowią wybiórcze zniekształcenie materiału dowodowego”. Sądy odnotowują wzrost materiałów i dowodów zawierających problemy związane z AI, w tym urojenia, błędne cytowania i fałszywe badania, jak mówi Damien Charlotin, profesor nadzwyczajny w California College of the Law w San Francisco. Według skompilowanej przez niego bazy danych spraw z urojeniami AI, odnotowano ponad tysiąc przypadków postępowań sądowych w Stanach Zjednoczonych z udokumentowanymi przykładami takich „urojeń” — sytuacji, w których AI generuje brzmiące wiarygodnie, lecz zmyślone informacje.
W sprawie w Teksasie Autenrieth został zatrudniony przez 3M zaledwie kilka tygodni przed rozpoczęciem procesu dotyczącego tego, czy 3M powinna ponosić odpowiedzialność za nadzór kontroli bezpieczeństwa w magazynie w Houston. Eksplozja w tamtym magazynie spowodowała śmierć trzech osób i uszkodziła lub zniszczyła setki domów i firm w okolicy. Autenrieth miał ocenić, jaki standard opieki należało oczekiwać od techników serwisowych 3M i czy przeprowadzane przez 3M kontrole bezpieczeństwa zostały wykonane prawidłowo. Był to jego pierwszy raz jako biegłego w sądzie.
Po przejrzeniu akt dostarczonych przez Autenrietha prawnicy powodom zaczęli kwestionować, czy raport, który otrzymali, był w całości jego własnym dziełem, jak wynika z transkryptów depozycji. Nakładka cytowań — dokument wymieniający źródła wykorzystane w szkicu raportu — dostarczyła prawnikom materiału, który określili jako niezbity dowód. Adam Lewis z kancelarii Arnold & Itkin, jeden z adwokatów powodów, powiedział, że był „szczerze zaskoczony” skalą, w jakiej Autenrieth użył ChatGPT do stworzenia swojego raportu biegłego. Lewis stwierdził, że prawnicy odnaleźli trzyście stron wpisów, które Autenrieth wysyłał do ChatGPT. Zawierały one pytania od technicznych, dotyczących konkretnych maszyn i ich działania, po treści mające na celu podważyć zeznania świadka strony przeciwnej.
Podczas depozycji, naciskany w sprawie użycia AI do stworzenia raportu, Autenrieth najpierw zaprzeczył: „AI nie napisała mojego raportu, to nieprawda” — zeznał. Chwilę później jednak złagodził swoje stanowisko, mówiąc prawnikom, że AI pomogła mu przy „formatowaniu i wszystkim innym”, wynika z transkryptów. Po depozycji prawnicy 3M usunęli Autenrietha z listy świadków. Mimo to prawnicy powodom wystosowali do niego wezwanie, by zeznawał na temat różnych wpisów, które wprowadził do ChatGPT.
Podczas procesu Autenrieth bronił swojego użycia AI: „Nie uważam, że to było złe, bo miałem już opinię” — zeznał. Lewis powiedział, że przekonanie sądu, by wezwać go na świadka w tej kwestii, miało wpływ na wynik procesu. Ława przysięgłych uznała, że 3M wykazało niedbalstwo przy kontrolach alarmowych, które mogły zapobiec śmiertelnemu wybuchowi. Sąd przyznał ofiarom odszkodowanie w wysokości 61,5 miliona dolarów. Rzecznik 3M oświadczył: „Nie zgadzamy się z tym werdyktem, uważamy, że nie znajduje on poparcia w dowodach ani w prawie.” Zapowiedziano zamiar wniesienia apelacji.
Odnośnie przyszłości i tego, jak sędziowie oraz prawnicy powinni poruszać się w obliczu tej nowej technologii, Grossman powiedziała, że może to sprowadzać się do większej staranności, zapewnienia ujawniania użycia AI przez strony oraz weryfikacji automatycznie wygenerowanej pracy. Najważniejsze jednak — dodała — jest to, że biegły ponosi odpowiedzialność za zachowanie swojej roli w postępowaniu i ogólnej wiarygodności. „Powinniśmy zachować obiektywność, a duże modele językowe nie są koniecznie obiektywne” — podkreśliła Grossman. „Wiadomo, że mają uprzedzenia i będą starać się zaspokoić pozycje, które im narzucisz.”