Nas semanas anteriores escribín sobre Intelixencia Artesanal e Coñecemento Operativo, conceptos que aprendín do coloquio que organizou Enxeñería Sen Fronteiras o 20 de abril en Santiago e que non quería que pasasen desapercibidos. Hoxe remato a entrega cunha cita de Margarita Padilla:

“El Chatbot no tiene conocimiento, tiene conversación”

O coñecemento non é un conxunto de datos, nin é elocuencia. O coñecemento é entendemento, comprensión, vai máis alá da lóxica pois esta forma parte del, non o engloba. As conversas son intercambios de palabras tras as cales acostuma a haber mensaxes mais a miúdo oír á xente falar e non dicir nada. Do mesmo xeito, o contido que xeran os grandes modelos de linguaxe ten información pero non coñecemento, este ven despois de que se interprete, de que se reflexione sobre isto e se contrapoña coa experiencia humana. Ten conversación pois intercambiamos palabras coherentes, pero non ten coñecemento porque non ten criterio.

O criterio semella unha idea moralista para os destrutores da ética. Con frecuencia tratan de definilo como unha amalgama de opcións que non son mellores nin peores e que cada quen escolle como se se tratase dun xeado. Dinnos que toda opinión é válida, aínda cando as opinións se emitan co fin de dobregar aos demais, de menosprezalos, ou mesmo de ignoralos.

Hai modelos de linguaxe que están a ser deseñados precisamente coa intención de eliminar a identidade das mulleres a través da cultura. Conversan, incluso ofrecen datos obxectivos, pero coñecemento non teñen pois en canto se lles leva a contraria non poden argumentalos. Xeralmente, estes modelos tampouco detectan os seus erros nin admiten ignorancia polo que ou che dan a razón en todo ou te contradín ata nas cuestións máis obvias.

A conversa alivia a soidade temporalmente

Moitas profesionais da psicoloxía advirten dos perigos de empregar estes modelos como terapia. O risco recae precisamente no matiz que Margarita Padilla saca á luz. A intelixencia artificial dáche conversa pero non te ilumina, non che axuda a reflexionar nin a comprender o teu entorno. Alivia as túas horas de illamento, a frustración por non entender o mundo cando semella absurdo, ofréceche unha orella… Mais non nos enganemos, non escoita. Responde o que estatisticamente considera que queres escoitar, non o que precisas oír, o que che podería axudar a saír dunha situación de sufrimento mental ou espiritual.

Para moitos este é un exemplo extremo, porén o engano no que caemos é o mesmo que cando procuramos aprender con estes modelos de linguaxe coñecementos dos cales non sabemos nada. Sentimos que nos está a proporcionar algo que nos falta. Información. Datos. Conceptos. Todo soa coherente, incluso máis correcto que o que expón calquera experto. Pero non podemos ter confianza ningunha no que nos di, nin na interpretación que xerou, nin nas razóns polas que a ofrece dese xeito… Non coñecemos á persoa que hai detrás desa conversa polo que non podemos imaxinar os seus nesgos ou os seus obxectivos, as súas preocupacións e inquedanzas, nada que nos axude a filtrar as súas palabras. Non a coñecemos porque non existe.

Se cadra un imaxínase que a falta de humanidade, de sentimentos e emocións, mellora o coñecemento xa que deixa só a lóxica. Esa idea dualista e mecanizante do que é o saber estanos a levar por sendeiros crueis e inhabitables. Sen a intuición como compás ético e reflexivo perdémonos en grandes abismos loxicistas que nos separan do mundo natural que nos sostén e ao cal pertencemos.

Existe unha falacia que di que o método científico é infalible, totalmente obxectivo, pois traballa coa seguridade dos parámetros medibles. Case todo pode ser trasladado a números, e os números poden ser analizados a fondo, ata aí concordo e aprecio o seu valor. Con todo, cando se dá esta falacia é porque se asume que os resultados numéricos só teñen unha interpretación posible. O certo é que calquera resultado obtido dun estudo científico pasa polo filtro das persoas que investigan, pasa polas súas emocións e polas súas experiencias de vida. Ás veces, estes engaden erros de interpretación, outras, atopan perspectivas que ninguén máis podería ofrecer. Este é un balance co que levamos décadas convivindo e o cal non deixa de tratarse dun deporte de equilibrismo.

O que pasa coa intelixencia artificial é que se presenta cunha face metálica de obxectividade a cal engana a gran parte da poboación. Os seus circuítos e as baterías que consume fanlle pensar ao usuario que detrás hai un coñecemento impoluto que non pode ser contaminado por erros de percepción ou por desexos persoais. Pese a que todo o que hai detrás se trata de código baseado na lóxica, non se pode ignorar o feito de que calquera creación de contido que xurda dun gran modelo de linguaxe provén, non da sabedoría colectiva, senón da produción de contido colectiva, a cal non é un coñecemento filtrado. A falta de criterio por parte do modelo fai, por tanto, que a nós nos ofreza resultados xenéricos a costa de resultados precisos.

Se che gusta conversar, por que unha IA?

Se desexamos conversar é moito mellor que busquemos unha persoa real para facelo, reduce a soidade de dúas ao mesmo tempo e a sensación é moito máis duradeira.

Por outra banda, se o que desexamos é buscar información rapidamente non vexo como un gran modelo de linguaxe axiliza máis o proceso que unha tradicional procura nun motor como busca. Ao fin e ao cabo a precisión dos resultados vai ser semellante. Aprender a facer prompts que dea bos resultados ben sendo equivalente a empregar os métodos de procura por tesauros, coa diferenza de que esta segunda opción gasta moita menos enerxía e evapora menos auga.

Para rematar só quero facer mención a un disco de Robe, máis ben pola palabra que empregou para designalo que polo contido, aínda que me encante escoitalo en bucle: Mayéutica. Esta palabra resume a mellor forma de empregar a linguaxe.

La mayéutica es el método aplicado por Sócrates a través del cual el maestro hace que el alumno, por medio de preguntas, descubra conocimientos.

Os grandes modelos de linguaxe fan moi poucas preguntas e as que fan pretenden extraer información de nós, non guiarnos cara a unha aprendizaxe xenuína. Deixo a idea aquí pois o artigo xa se alongou demasiado, mais gustaríame que facervos unha pregunta:

Como cres que é o camiño que desexas percorrer para chegar ao coñecemento que procuras?