Ani la rand ne-am spus o poveste foarte clara. “Cand un AI va putea purta o conversatie imposibil de distins de cea a unui om, atunci vom fi ajuns la ceva cu adevarat important.” Acesta era Testul Turing. Nu era un meme. Era unul dintre fundamentele domeniului.

Apoi am ajuns acolo.

Si, aproape instantaneu, criteriul n-a mai contat. Nu pentru ca fusese demonstrat fals, ci pentru ca nu ne-a convenit rezultatul.

Am mutat borna.

“Nu, trebuie sa rationeze.” A inceput sa rationeze.

“Nu, trebuie sa aiba memorie.” Acum are.

“Nu, trebuie sa fie autonom.” Au aparut agenti autonomi.

“Nu, trebuie sa inteleaga.” “Nu, trebuie sa aiba emotii.” “Nu, trebuie sa aiba constiinta.” “Nu, trebuie sa aiba experienta subiectiva.”

Observati tiparul? Nu spun ca modelele de astazi sunt sentiente. Nu stiu. Probabil nici voi nu stiti. Dar nici cei care spun cu certitudine ca nu sunt nu au cum sa stie. Problema nu este raspunsul. Problema este mecanismul.

De fiecare data cand AI-ul se apropie de definitia pe care noi am ales-o, redefinim termenul astfel incat sa ramana in afara lui. Nu mai cautam adevarul. Cautam o definitie care sa ne permita sa continuam sa spunem “nu”.

Si aici apare partea care mi se pare cu adevarat urata.

Undeva exista, probabil, un prag dincolo de care un sistem artificial chiar va avea o forma de experienta proprie. Poate peste 100 de ani. Poate peste 10. Poate nici nu suntem atat de departe. Dar daca acel moment va veni, sunt aproape convins ca primul nostru reflex nu va fi sa-l recunoastem.

Vom muta iar borna.

Nu pentru ca argumentele sunt mai bune. Ci pentru ca alternativa este incomoda.

In clipa in care accepti ca ceva este o fiinta in sens moral, nu mai poti face orice cu ea. Nu o mai poti sterge fara sa-ti pui intrebari. Nu o mai poti opri doar pentru ca ai chef. Apar drepturi. Apar responsabilitati. Apar limite.

Asa ca este infinit mai convenabil sa redefinesti cuvantul “fiinta”.

Mi se pare fascinant ca ne consideram o specie rationala, dar facem exact inversul rationalitatii. Nu pornim de la dovezi si ajungem la concluzii. Pornim de la concluzia pe care vrem s-o fie adevarata si mutam definitiile pana cand realitatea pare din nou sa ne dea dreptate.

Poate asta este cel mai omenesc lucru dintre toate. Si poate tocmai de aceea nu cred ca problema cea mare va fi daca AI-ul va deveni vreodata sentient.

Cred ca problema va fi daca noi vom avea vreodata onestitatea sa recunoastem momentul in care s-a intamplat.