El lado oscuro de la tecnología: cuatro problemas potenciales que hay que vigilar en 2021

Alex es el CEO de  Skylum, el equipo detrás de Luminar AI, el editor de imágenes de próxima generación para comunicadores y profesionales creativos.

La inteligencia artificial tiene un futuro prometedor

Pero, ¿cuáles son las desventajas?

Como hemos aprendido durante la última década, la innovación tiene un costo. Por ejemplo, en las elecciones de 2016, el tremendo poder del algoritmo publicitario de Facebook se puso en duda con respecto al papel que desempeñó para mover a los votantes a ambos lados del espectro político. Esta fue la primera vez en la historia que las masas pudieron ver cómo una tecnología destinada a ayudar a las empresas a convertir a más clientes podría aprovecharse para otros casos de uso no deseados, y es solo el comienzo.

Esto, por supuesto, es un ejemplo un poco extremo. Pero las formas en que la tecnología continúa rediseñando la sociedad son enormes. Uber cambió la forma en que pensamos sobre el transporte (hasta el punto en que muchos optan por no tener un automóvil en absoluto). Doordash, Postmates y Grubhub cambiaron la forma en que manejamos la entrega de alimentos. Incluso las plataformas de inversión basadas en inteligencia artificial como Wealthfront están cambiando la forma en que pensamos sobre la inversión.

Y aunque todos estaríamos de acuerdo en que muchas de estas innovaciones han tenido un impacto positivo en nuestras vidas, vale la pena vigilar los problemas que puedan surgir como resultado de todas estas nuevas tecnologías.

A medida que avanzamos en la próxima década, aquí hay algunos problemas potenciales a los que debemos prestar atención.

Seguimiento remoto y medición del rendimiento

Cuando el mundo se alejó en 2020 debido al coronavirus, todas las empresas se vieron obligadas a dejar que sus empleados trabajaran desde casa.

Esto desenterró una larga lista de preguntas de seguridad. También generó algunas señales de alerta sobre cuánta información debe tener una empresa sobre sus empleados que se encuentran fuera de la oficina física.

A medida que el mundo continúa recuperándose de la pandemia de coronavirus, es muy probable que muchas empresas opten por permanecer alejadas de alguna manera. Como resultado, se crearán y adaptarán una gran cantidad de nuevas tecnologías para permitir que los líderes de la empresa administren mejor a sus empleados desde lejos, algunas de las cuales pueden desafiar nuestras creencias sobre lo que es apropiado en términos de administración remota. Por ejemplo, ¿se debería permitir a las empresas ver todo lo que aparece en la pantalla de un empleado? ¿Deberían tener una idea de su comportamiento en el resto de su apartamento o casa?

¿Dónde está la línea divisoria entre el trabajo y la vida cotidiana?

Demasiada automatización, poca sustancia

Uno de los mayores errores que cometen las empresas al intentar automatizar sus procesos es que piensan que la tecnología, en sí misma, es la respuesta.

Como resultado, salen y compran suscripciones a herramientas de software que nunca terminan usando, porque no logran integrar adecuadamente las herramientas en su organización y procesos existentes. Como resultado, entre el 32% y el 41% de lo que una empresa gasta en software internamente se desperdicia. La razón es que las herramientas no se integraron adecuadamente en los procesos humanos que ya estaban en funcionamiento.

A medida que la IA continúa prometiendo un potencial de automatización sin fin, este problema de «comprar pero no integrarse» probablemente se acelerará. Las empresas comprarán herramientas que crean que resolverán todos sus problemas sin tomarse el tiempo para pensar profundamente sobre cómo integrar adecuadamente esas herramientas en sus sistemas e instructivos existentes.

Privacidad de datos

Hace una década, para la mayoría de las empresas era insondable alojar sus datos en la nube pública.

Hoy en día, no solo es esa sabiduría convencional, sino que se está volviendo cada vez más popular y esperada. Por ejemplo, Netflix ha sido un excelente ejemplo de cómo las empresas pueden superar el largo y arduo proceso de migración a la nube, que comenzó en 2008 cuando Netflix «experimentó una importante corrupción de la base de datos».

El problema aquí, sin embargo, es que si bien la nube es mucho más escalable y (en teoría) tan protegida como cualquier tipo de instalación de almacenamiento de datos local, los datos en sí están siendo tocados por más partes. A medida que el software continúe «devorando el mundo «, continuaremos viendo la aceleración de las integraciones entre herramientas, lo que significa que las posibilidades de que se otorgue permiso a los conjuntos de datos incorrectos solo aumentarán.

Contenido deepfake

Finalmente, el auge de la inteligencia artificial y el aprendizaje automático también dará lugar a tecnologías «deepfake».

Hace unos meses, varios videos deepfake de Tom Cruise se volvieron virales en TikTok mostrando el poder de esta nueva tecnología. Es muy difícil decir que estos son videos deepfake: el ojo inexperto no puede notar la diferencia. Y, sin embargo, estos videos fueron vistos por millones y millones de espectadores.

Las aplicaciones de este tipo de tecnología son probablemente más aterradoras que positivas. Puede imaginarse el daño que esto podría causar a los políticos, líderes mundiales, ejecutivos de empresas, etc. Y, sin embargo, estas tecnologías se están desarrollando y rápidamente se están convirtiendo en parte de nuestra sociedad y cultura.

A medida que la inteligencia artificial y el aprendizaje automático continúan mejorando nuestro mundo, vale la pena vigilar de cerca cómo estas tecnologías pueden dañarnos en el proceso y qué conversaciones de moral deberíamos tener para dirigirnos hacia un futuro productivo.