Sam Altman, el director executiu de l’OpenAI de ChatGPT, va declarar dimarts davant els membres d’un subcomitè del Senat sobre la necessitat de regular la tecnologia d’intel·ligència artificial cada cop més potent que s’està creant dins de la seva empresa i d’altres com Google i Microsoft.
L’audiència de tres hores de durada va abordar diversos aspectes dels riscos que la IA generativa podria suposar per a la societat, com afectaria el mercat de treball i per què caldria una regulació per part dels governs.
L’audiència de dimarts serà la primera d’una sèrie d’audiències que es produiran mentre els legisladors s’enfronten a la redacció de regulacions al voltant de la IA per abordar les seves preocupacions ètiques, legals i de seguretat nacional.
Aquí hi ha cinc punts clau de l’audiència:
1. Audició oberta amb una falsificació profunda
El senador Richard Blumenthal de Connecticut va obrir el procediment amb una gravació d’àudio generada per IA que sonava com ell.
“Massa sovint hem vist què passa quan la tecnologia supera la regulació. L’explotació desenfrenada de les dades personals, la proliferació de la desinformació i l’aprofundiment de les desigualtats socials. Hem vist com els biaixos algorítmics poden perpetuar la discriminació i els prejudicis i com la falta de transparència pot soscavar la confiança pública. Aquest no és el futur que volem”, va dir la veu.
Blumenthal, que és el president del Subcomitè Judicial del Senat sobre Privadesa, Tecnologia i Dret, va revelar que no va escriure ni pronunciar els comentaris, sinó que va deixar que el chatbot d’IA ChatGPT els generara.
Un fals profund és un tipus de suport sintètic que s’entrena en mitjans existents que imiten una persona real.
2. La IA podria causar danys importants
Sam Altman, va utilitzar la seva compareixença aquest dimarts per instar el Congrés a imposar noves regles a la Big Tech, malgrat les profundes divisions polítiques que durant anys han bloquejat la legislació destinada a regular Internet.
Altman va compartir les seves majors pors sobre la intel·ligència artificial. Va dir: “Els meus pitjors temors són que causem, nosaltres el camp, la tecnologia, la indústria, causem un dany important al món.
“Crec que si aquesta tecnologia va malament, pot sortir molt malament”.
“Crec que si aquesta tecnologia va malament, pot sortir molt malament”.
Sam Altman, director general de l’empresa matriu de ChatGPT OpenAI, va compartir els seus majors temors sobre la intel·ligència artificial abans del Congrés dimarts.https://t.co/ao01hIx3DS pic.twitter.com/L1ZOk3Y6op
— The Associated Press (@AP) 16 de maig de 2023
3. Cal regulació de la IA
Altman va descriure l’auge actual de la intel·ligència artificial com un potencial “moment de la impremta”, però que requeria salvaguardes.
“Creiem que la intervenció reguladora dels governs serà fonamental per mitigar els riscos de models cada cop més potents”, va dir Altman.
També va declarar dimarts Christina Montgomery, vicepresidenta i directora de privadesa i confiança d’IBM, així com Gary Marcus, antic professor de la Universitat de Nova York.
Montgomery va instar el Congrés a “adoptar un enfocament de regulació de precisió de la IA. Això significa establir les regles per regir el desplegament de la IA en casos d’ús específics, no regular la tecnologia en si mateixa”.
Marcus va instar el subcomitè a considerar una nova agència federal que revisi els programes d’IA abans que es publiquin al públic.
“Hi ha més genis per venir de més ampolles”, va dir Marcus. “Si vas a presentar alguna cosa a 100 milions de persones, algú ha de tenir-hi els ulls”.
4. La substitució de llocs de treball continua sense resoldre
Tant Altman com Montgomery van dir que la IA pot eliminar alguns llocs de treball, però crear-ne de nous al seu lloc.
“Hi haurà un impacte en els llocs de treball”, va dir Altman. “Intentem tenir-ho molt clar, i crec que caldrà una col·laboració entre la indústria i el govern, però sobretot l’acció del govern, per esbrinar com volem mitigar-ho. Però sóc molt optimista sobre el gran que seran les feines del futur”, ha afegit.
Montgomery va dir que “el més important que hem de fer és preparar la força de treball per a les habilitats relacionades amb la IA” mitjançant la formació i l’educació.
ChatGPT ocuparà la teva feina i milions d’altres?
5. La desinformació i les properes eleccions nord-americanes
Quan se li va preguntar sobre com la IA generativa podria influir en els votants, Altman va dir que el potencial que la IA s’utilitzi per manipular els votants i dirigir-se a la desinformació es troba entre les “meves àrees de major preocupació”, sobretot perquè “enfrontarem eleccions l’any vinent i aquestes els models estan millorant”.
Altman va dir que OpenAI ha adoptat polítiques per abordar aquests riscos, que inclouen la prohibició de l’ús de ChatGPT per “generar grans volums de materials de campanya”.