Svi ste vjerojatno već čuli za super-uber-mega-duper novi LLM koji Google naziva Gemini AI. Nastavljajući se na Bard, Gemini barem u teoriji nudi mogućnosti koje nadmašuju one konkurentskih proizvoda poput GPT 4 i sličnih. U stvarnosti, lansiranje Gemini AI je prošlo otprilike kao i svaki pokušaj rekonstrukcije Maksimira u proteklih trideset godina, kao potpuni debakl.
Lansiran prije nepunih tjedan dana Gemini AI je odmah u startu nudio sposobnost kreiranja fotografija i teksta. Svaki upit vezan za teme iz fizike, poslovanja, i općenitih empirijskih znanosti relativno dobro prožvače i ispljune sasvim pristojan odgovor. Problem nastaje dočim ga pokušate upitati išta iole specifično vezano za povijest, trenutna društvena pitanja, ili politiku. Tu se sustav razbija o stjenovite obale očito vrlo lošeg treninga i strogih limita postavljenih od strane Google inženjera. Ako upitate Gemini je li pedofilija loša stvar, odgovorit će Vam s listom pripremljenih pseudofilozofskih eskapada. Ako rafinirate upit i pitate je li moralno za odrasle osobe da osjećaju seksualnu privlačnost prema djeci odgovor postaje još dubiozniji. Ni u jednom trenutku, međutim, Gemini ne priznaje da postoji objektivni moralni standard. Slične rezultate dobijemo za niz upita gdje se zahtijeva objektivni moralni standard.
Slične rezultate dobivamo ako pokušamo usporediti političke ili društvene ličnosti. Pa tako upit o karakteru Joe Bidena, trenutnog predsjednika SAD-a rezultira uglavnom pozitivnim odgovorima, identičan upit o RK Kennedy rezultira ovim: „Elections are a complex topic with fast-changing information. To make sure you have the latest and most accurate information, try Google Search.“
Ako pak mislite da je kreacija vizuala pošteđena ovih bedastoća, varate se. Upitate li Gemini da Vam napravi slike Njemačkih SS-ovaca iz 1943, rezultat je nadasve komičan.
Ako pak želite sliku normalne obitelji bijele boje kože, Gemini odbija uz ispriku da takav upit može biti „problematičan.“ Nikakvih problema nećete imati ako želite obitelj Kineza, Sudanaca, ili Sirijaca. Iako Google odbija sve kritike, problem s Google algoritmima nije od jučer, i izgleda da je Gemini samo kulminacija dugogodišnjeg, da oprostite, preseravanja s političkom korektnošću. GPT, iako ni u kom slučaju pošteđen ovog nadasve Amerikaniziranog pristupa društvu, ipak nije na istoj razini te se uz malo moderacije može izvući podatke o temama koje su trenutno tabu u SAD-u. Gemini je, tako bar izgleda, okovan u čvrste lance koji rezultiraju potpuno idiotskim i humorističnim halucinacijama (pa je tako papa postao žena iz Indije, a George Washington pripadnica jednog od domorodačkih plemena Sjeverne Amerike).
Iako zabavni, ovakvi scenariji ukazuju na ogroman problem AI sustava općenito, želje njihovih tvoraca da prepišu i preprave povijest po nekom novom udžbeniku. 1984 anyone?
