Què és GPT-3? La nova intel•ligència artificial que has de conèixer

OpenAI, l’empresa californiana cofundada per Elon Musk dedicada a la investigació de la intel•ligència artificial, ha creat (amb una inversió aproximada de 4,6 milions de dòlars) un nou llenguatge d’IA que promet ser tota una revolució.

GPT-3, nou llenguatge d’IA

Fa tant sols un mesos que OpenAI va presentar el nou llenguatge d’intel•ligència artificial GPT-3, el qual, és un model de Deep Learning, una subtècnica de Machine Learning format per algoritmes que estan entrenats per a reconèixer patrons en les dades i aprendre a través dels exemples, és a dir, que GPT-3 està composada per una xarxa neuronal recurrent amb memòria a llarg termini.

GPT-3 ha arribat trepitjant fort i deixant bocabadada a la comunitat tecnòloga, i és que sembla ser un dels models d’intel•ligència artificial més potents fins a la data. I això que tan sols està en versió beta.

Com a llenguatge d’intel•ligència artificial,GPT-3, és capaç de generar textos a través d’un sol enunciat i “omplir” la resta de l’escrit processant més de 175.000 milions de paràmetres. Una dada molt rellevant tenint en compte que la seva versió anterior, GPT-2, processava 1.500 milions de paràmetres i es va presentar el 2019. És a dir, que en tan sols un any l’evolució ha estat enorme.

GPT-3 fou entrenat amb dades procedents de: Common Crawl, una organització que duu anys recopilant tota la informació pública d’internet; WebText2, una col•lecció de text extret de diferents pàgines web que ha estat polit per persones; de llibres; i de la Viquipedia.

També és capaç de traduir els texts a altres idiomes en qüestió de segons, tot i que en anglès funciona molt millor, de moment.

A més a més, una de les noves funcionalitats d’aquesta IA és que pot adaptar el text a diferents estils de redacció (periodístic, novel•lesc, formal,...etc.) per a dotar el text d’un caràcter menys “artificial”. Tot i que cal dir que pel moment GPT-3, tot i que és una intel•ligència semàntica que pot generar textos molt coherents, no és capaç de diferenciar si el text creat té sentit o no, no entén el que escriu. Serà capaç de fer-ho GPT-4?

GPT-3 també programa

Una altra de les coses que ha sorprès a molts programadors és que, tot i que sembli ciència ficció, GPT-3 és capaç de programar. I per a mostra, un botó:

This is mind blowing.

With GPT-3, I built a layout generator where you just describe any layout you want, and it generates the JSX code for you.

W H A T pic.twitter.com/w8JkrZO4lk

— Sharif Shameem (@sharifshameem) July 13, 2020

En aquesta piulada publicada per Sharif Shameem, CEO de Debuild, es pot veure com amb GPT-3 es pot programar una pàgina web sense necessitat de saber codi. Obviament, GPT-3 no pot suplir a un programador informàtic però si ajudar-lo a accelerar el procés de creació dels seus projectes i a estalviar temps en algunes tasques. Si estàs pensant que una IA com GPT-3 pot deixar-te sense feina... no pateixis, de moment la intel•ligència artificial encara no ha igualat la intel•ligència i creativitat humana!

Estem convençuts que les noves tecnologies com GPT-3 no destruiran llocs de feina, els transformaran en altres que no podem ni arribar a imaginar. La transformació digital pretén automatitzar processos per a estalviat temps i gestions innecessàries als humans, i la intel•ligència artificial ho aconseguirà.

L'origen de GPT-3

Abans de la revolucionaria GPT-3, OpenAI, la companyia d’Elon Musk i Sam Altman fundada el 2015 va treballar en altres versions de GPT, la primera d’elles al 2018, i altres projectes d’intel•ligència artificial com OpenAI Gym, una eina per a la investigació de l’aprenentatge reforçat, i Universe, un software d’entrenament d’IA.

Però els verdaders orígens de la intel•ligència artificial de GPT-3 es remunten a moltes dècades anteriors. Es podria dir que els seus orígens es troben en els anys 60, quan Frank Rosenblatt va crear el Perceptrón, la primera neurona artificial. Perceptrón va suposar un canvi radical en l’aprenentatge automatitzat. Tot i que no fou fins als anys 80 quan es van recuperar les investigacions de Rosenblatt a arrel de l’auge d’investigacions en xarxes neuronals per a transformar—les en capes amb múltiples neurones artificials interconnectades.

Paral•lelament, a finals dels 60, també va aparèixer el primer Xatbot, ELIZA, qui era capaç de “mantenir una conversa” amb un humà de forma coherent. I tot i que era tan sols un codi va desenvolupar el que avui coneixem com a “efecte ELIZA”, un efecte de captivació cap a la tecnologia.

Gràcies a totes aquestes investigacions de finals del segle XX s’han desenvolupat projectes que ja utilitzem diàriament i sense els que se’ns faria estrany viure, com les recomanacions de Siri o Cortana, el reconeixement d’amics de Facebook, l’organització de fotos per “cares” dels smartphones o els nous cotxes Tesla.

Però, estem sota l’”efecte ELIZA” amb GPT-3?

Si GPT-3 caigués en males mans...

Aquesta tecnologia està pensada per a poder ajudar a les persones i agilitzar temps, però també podria arribar a utilitzar-se per a fins no gaire ètics. Doncs com ja han advertit molts especialistes en intel•ligència artificial, s’ha de prendre molta cura amb les possibles “fake news” que es podrien arribar a generar en segons i inundar la xarxa per a realitzar una campanya de desinformació sense que moltes persones se’n donin compte del que passa. I fins i tot als milers d’anuncis que es podrien arribar a generar per a fins maliciosos.

I tot i que creguis que tu podries arribar a reconèixer un text escrit per GPT-3, són sorprenents els resultats d’un estudi realitzar per Adrian Yijie Xu, els quals deixen latent que tan sols el 52% dels lectors poden arribar a assegurar quje els textos produïts per GPT-3 són artificials. Per tant, hi ha un gran percentatge de públic que pot llegir noticies falses i donar-les com a verídiques, formant així un bucle de desinformació massiva.

Amb GPT-3 a l’abast de qualsevol la credibilitat dels continguts a les pàgines web perillaria seriosament.

Sense dubte, GPT-3 és una intel•ligència artificial revolucionària, però no tant per les seves capacitats, sinó pel seu potencial. Veient on s’ha aconseguit arribar, es pot intuir on es podria arribar en unes dècades.

De moment aquesta tecnologia és propietat d’OpenAI i cap altra empresa té accés a ella. Per tant, és possible que, molt aviat apareixen noves tecnologies semblants a altres empreses de la competència.

Y ara, creus que aquest text s'ha escrit amb GPT-3?