Cuando los pioneros de las redes sociales las crearon, lo hicieron con la ilusión de abrir espacios para que las personas y las comunidades se conectaran.
Pronto se dieron cuenta de que no todos los intercambios
serían amables, pero eso no era tremendamente inesperado, dada la naturaleza
humana.
Lo que difícilmente habrían podido predecir es que en
cuestión de unos años las redes se convertirían en sofisticadas herramientas
para ajustar el curso de la democracia a gusto de una tendencia u otra.
O que los mandatarios se escudarían tras ellas alegando que
por esos medios se comunicaban directamente con los gobernados, negándoles así
el derecho a cuestionarlos.
Y es que toda innovación, en cualquier campo, trae consigo
consecuencias imprevistas, a veces positivas; otras, negativas, y a menudo
sorprendentes.
Es un fenómeno que observadores sociales de diferentes
disciplinas han notado desde la antigüedad.
El filósofo Platón, por ejemplo, lo ilustró bellamente en
el diálogo "Fedro".
En él, Sócrates cuenta que cuando el dios de Egipto Teut
-quien había inventado, entre otras cosas, las letras- fue a mostrarle al rey
Tamus todas sus obras, éste le pidió que explicara cuán útiles eran.
"Cuando llegaron a la escritura dijo Teut: '¡Oh rey!
Esta invención hará a los egipcios más sabios y servirá a su memoria; he
descubierto un remedio contra la dificultad de aprender y retener'".
El rey le respondió que el genio inventor no es el mejor
juez, y que, respecto a la escritura, le estaba atribuyendo "todo lo
contrario de sus efectos verdaderos".
"Sólo producirá el olvido en las almas de los que la
conozcan, haciéndoles despreciar sus recuerdos; confiarán en los escritos externos
y no recordarán por sí mismos.
"Lo que descubriste no es una ayuda para la memoria,
sino para la reminiscencia; y no les das a tus discípulos la verdad, sino sólo
la apariencia de la verdad; serán oidores de muchas cosas y nada habrán
aprendido; parecerán omniscientes y generalmente no sabrán nada; serán una
compañía tediosa, teniendo la apariencia de la sabiduría sin la realidad".
Para Platón, el saber verdadero se lograba a través del
diálogo socrático: la búsqueda de respuestas mediante el esfuerzo de reflexión
y razonamiento.
Aunque no concuerdes con su opinión sobre la escritura, el
relato muestra cómo hasta las tecnologías más preciadas pueden traer
consecuencias imprevistas.
Adam Smith, considerado el padre de la economía moderna, le
dio el nombre de "la mano invisible" a una de las más famosas de
ellas.
El filósofo escocés del siglo XVIII sostuvo que cada
individuo que busca sólo su propio beneficio "es conducido por una mano
invisible a promover un fin que no era parte de su intención", generando
beneficios generalizados.
Varios pensadores discurrieron sobre la que ahora se
denomina "la ley de las consecuencias no anticipadas", pero fue el
sociólogo estadounidense Robert K. Merton quien, en 1936, publicó el primer
análisis del concepto.
De la bicicleta a Marx
Merton comienza su influyente artículo "Las
consecuencias imprevistas de la acción social intencionada" comentando que
hasta ese momento no se había hecho un análisis científico sistemático del
tema.
Supone que quizás se debía a que durante la mayor parte de
la historia humana se le había atribuido lo inesperado a "los
dioses", al "destino" o a la interferencia divina.
Con la Era de la Razón, comenzamos a creer que se podía
entender la vida.
En su estudio, Merton identificó 5 causas principales de
esos desenlaces inesperados.
El desconocimiento es la primera: son imprevistas, así que,
en algunos casos, por más que se quisiera habría sido muy difícil adivinar que
sucedería lo que ocurrió.
Quienes desarrollaron la bicicleta moderna entre las
décadas de 1880 y 1890 no estaban planeando crear un vehículo de la liberación
de las mujeres.
No sólo impulsó el uso de "ropa racional" sino
que tuvo un profundo impacto en los derechos y roles de las mujeres en la
sociedad.
“Déjame decirte lo que pienso sobre andar en
bicicleta", dijo en una entrevista de 1896 la sufragista Susan B. Anthony.
"Creo que ha hecho más por emancipar a las mujeres que
cualquier otra cosa en el mundo. Le da a la mujer una sensación de libertad y
autosuficiencia. La hace sentir como si fuera independiente (...) y se va, la
imagen de una feminidad libre y sin restricciones”.
Como éste, una miríada de ejemplos demuestran que, escribió
Merton, "la limitación más obvia para una anticipación correcta de las
consecuencias de una acción la proporciona el estado de conocimiento
existente".
Lo que, entre otras, llevaba en ocasiones a algunos a
"sostener el argumento que dice en efecto: 'si hubiéramos sabido, lo
habríamos sabido'", añadió.
La segunda de las causas principales era el error: a veces
el análisis falla o se repiten acciones que han tenido éxito en el pasado en
situaciones nuevas, sin repensarlas.
La imperiosa inmediatez del interés, que lleva a descuidar
la consideración de consecuencias a largo plazo pues la preocupación primordial
son los efectos próximos previstos, es la tercera causa.
La cuarta es "superficialmente similar al factor de inmediatez", pero significativamente diferente: los valores básicos.
Estos nos pueden llevar a actuar de acuerdo a creencias
fundamentales sin considerar las consecuencias.
Merton citó el caso de la ética protestante y el espíritu
del capitalismo para ilustrar este punto.
Las normas morales protestantes del trabajo duro y el
ascetismo "paradójicamente conducen a su propia decadencia a través de la
acumulación de riqueza y posesiones".
Y, finalmente, una causa que suena esotérica: la profecía
autodestructiva, en la que no se actúa por temor a consecuencias negativas e
imprevistas, o se advierte de un problema futuro, y eso lleva a que no suceda.
"Para tomar un ejemplo social concreto", señaló
Merton, "la predicción de (Karl) Marx sobre la progresiva concentración de
la riqueza y la creciente miseria de las masas influyó en el proceso mismo
predicho.
"Al menos una de las consecuencias de la predicación
socialista en el siglo XIX fue la expansión de la organización del trabajo, que
(...) ralentizó, si no eliminó, los acontecimientos que Marx había
predicho".
En su libro "Lógica del azar", el matemático y
filósofo John Venn utilizó el pintoresco término "profecías suicidas"
para nombrar esta quinta causa principal de consecuencias imprevistas.
Con el tiempo, otros pensadores han añadido otras, como el
economista Kenneth Arrow, quien contribuyó con una advertencia: "la
mayoría de las personas subestiman la incertidumbre del mundo".
Merton además clasificó 3 tipos de consecuencias no
anticipadas:
beneficios imprevistos, como los muchos casos de
descubrimientos científicos fortuitos;
inconvenientes inesperados, en los que quizás se logre lo
que se quería, pero acompañado de aspectos negativos;
efectos perversos, que resultan en lo contrario de lo que
se pretendía.
¿Por qué importa tanto ahora?
Porque estamos en el umbral de una nueva fase para la
humanidad, probablemente una de las más significativa de todas.
La rápida aparición de una nueva generación de sistemas de
inteligencia artificial que pueden emitir juicios y decisiones y generar ideas
es uno de los mayores desafíos de la sociedad.
La inteligencia artificial es un enorme salto a lo
desconocido en diferentes áreas de nuestras vidas, desde la salud hasta la
educación, desde el ejército hasta el derecho, desde las artes hasta el
transporte.
Cambiará nuestras vidas de maneras que aún no podemos
imaginar.
Pero no podemos darnos el lujo de no hacerlo, pues detrás
de la emocionante innovación y el entusiasmo por la IA hay preguntas
fundamentales que debemos hacernos a nosotros mismos, a los líderes
tecnológicos y a nuestros gobernantes desde ya.
"Cuando se trata de la IA, hay muchos que lo ven como
algo mágico, o piensan que habrá una batalla inminente entre humanos y robots,
y el tipo de preguntas son como de ciencia ficción: '¿se puede confiar en un
robot'?".
Eso le dijo al programa The Trust Shift de la BBC Jack
Stilgoe, profesor en el University College de Londres, y parte de un nuevo
programa gigante de investigación en Reino Unido llamado Responsible AI o RAI
(IA responsable).
"Como científico social, quiero llamar la atención
sobre el hecho de que realmente no es cuestión de si confiamos en un robot sino
de si confiamos en las personas detrás de las tecnologías".
Son esos empresarios e innovadores de IA los que tienen el
poder de darle forma radicalmente a nuestro futuro.
Pero somos todos, en mayor y menor medida, los que debemos
participar en la toma de decisiones hoy.
Los sistemas de inteligencia artificial se entrenan con
grandes cantidades de información y aprenden a identificar los patrones que
contiene para realizar tareas.
Las aplicaciones parecen infinitas y ya están desde
ayudando a los médicos a detectar cánceres de mama hasta decidiendo qué
mostrarnos en las redes sociales o recomendarnos qué comprar.
Lo que hemos visto hasta ahora es la punta del iceberg; sin
embargo, a casi cada paso, además de maravillas se han evidenciado los
peligros, así como la dificultad para combatirlos.
Toma la IA generativa, aquella que, como ChatGPT y DALL-E,
genera textos o imágenes que parecen haber sido creados por humanos: tiene una
legión de adeptos.
Pero entre ellos se cuentan creadores de contenido de abuso
sexual infantil quienes multiplican sus ganancias sin que las autoridades
puedan hacer mucho al respecto.
¿Una consecuencia imprevista?
Quizás, pero la pregunta es de qué tipo, pues si es por
error o por la imperiosa necesidad del interés, son difíciles de excusar.
Es por eso que, aunque los avances recientes en IA han sido
aclamados como revolucionarios, incluso grandes personalidades como Elon Musk
han abogado por una pausa en su desarrollo.
Temores similares han llevado a dos de los tres científicos
conocidos como los padrinos de la IA por su investigación pionera, Geoffrey
Hinton y Yoshua Bengio, a pronunciarse en ese sentido.
A Stilgoe, quien como investigador de RAI se enfoca en cómo
debemos dar forma al desarrollo de la IA en beneficio de las personas, las
comunidades y la sociedad, le preocupa "el interés de quienes desarrollan
la tecnología en no anticipar las consecuencias".
En su afán por monetizar sus creaciones, "la gente de
IA desarrolla sus sistemas y los lanza al mundo, y luego depende de la sociedad
averiguar cuáles son las consecuencias y lidiar con ellas.
"Hay una asimetría masiva pues dejamos a los
innovadores libres de responsabilidad".
El científico social afirma que hay casos en los que la IA
tiene claramente beneficios, pero opina que debe desarrollarse en el contexto
de instituciones confiables, que estén interesadas "no sólo en lo que es
bueno para un individuo sino para la sociedad en general".
Así, habrá posibilidades de que "la IA no sólo sea
efectiva, sino también justa".
Pues, como nos advirtió Platón sobre la escritura,
cualquier tecnología, por maravillosa que sea, tiene sus bemoles.
Sacado de la bbc
