Nakon što je funkcija AI Overviews lažno povezala dvije izdavačke kuće sa prevarama, lokalni sud u Minhenu je odbacio odbranu kompanije da korisnici sami treba da provjeravaju odgovore koje dobiju.
Lokalni sud u Minhenu donio je privremenu presudu koja bi mogla da promijeni rad pretraživača i AI četbotova širom svijeta. Sud je proglasio Google odgovornim za netačne tvrdnje koje generiše njegova funkcija AI Overviews u pretraži i naložio kompaniji da spriječi njihovo širenje.
Povod za tužbu bio je slučaj u kojem je Google-ov AI, u određenim pretragama, lažno povezivao dvije izdavačke kuće sa sumnjivim poslovima i prevarama. Iako su pogođene kompanije poslale upozorenje, Google nije prihvatio odgovornost, već se branio činjenicom da sistem sam upozorava korisnike da su greške moguće i da informacije treba nezavisno provjeriti.
Međutim, sud je utvrdio da je AI pomiješao podatke drugih, problematičnih firmi sa podacima tužitelja i napravio veze koje uopšte ne postoje u linkovanim izvorima.
Sudije su istakle ključnu razliku - za razliku od tradicionalnih pretraživača koji samo prikazuju linkove i tuđe izjave, Google-ov AI alat proizvodi "nezavisne, nove i suštinske tvrdnje" zasnovane na pogrešnom tumačenju interneta.
U očima suda, pošto jedino Google kontroliše i mijenja ovu tehnologiju, on mora i da odgovara za nju.
Sud je odbacio odbranu Google-a sa obrazloženjem da puko upozorenje o mogućim "halucinacijama" AI-ja ne oslobađa kompaniju od odgovornosti. U suprotnom, žrtve bi bile bespomoćne jer originalni izvori te lažne tvrdnje nikada nisu ni objavili, pa samim tim ne mogu biti tuženi. Takođe, sud je ocenio da rezultati koje generiše AI nisu zaštićeni slobodom govora, jer su proizvod komercijalnog algoritma, a ne mišljenje pojedinca.
Kao mjeru predostrožnosti, sud je naložio Google-u da ukloni sporni sadržaj i pokrije 80 odsto sudskih troškova.
Iz Google-a je najavljena moguća žalba uz saopštenje da kompanija ulaže velika sredstva u kvalitet AI Overviews funkcije:
"Mnogo ulažemo u kvalitet AI Overviews funkcije kako bismo osigurali da ogromna većina odgovora pruža tačne informacije, a ona je osmišljena tako da odražava informacije koje postoje na internetu. Pažljivo razmatramo ovu odluku, koja još nije konačna", rekao je portparol Google-a, a prenosi The Decoder.
Ova presuda prijeti da postavi presedan za cijelu AI industriju. Kompanije kao što su OpenAI, Anthropic i Perplexity AI takođe koriste slična upozorenja u svojim uslovima korišćenja, ali ovaj slučaj dokazuje da ona više nisu dovoljna. Ako AI generiše tvrdnje kojih nema u izvorima, kompanija koja je kreirala i istrenirala sistem mora preuzeti pravnu odgovornost za nanijetu štetu.