El uso generalizado de herramientas de inteligencia artificial accesibles al público ha sido puesto en entredicho, ya que existen argumentos significativos en contra de la IA destinada al consumidor, que a menudo pasan desapercibidos para los desarrolladores tecnológicos que buscan el beneficio económico. Las plataformas de redes sociales continúan lanzando herramientas de IA que generan imágenes, publicaciones y otros contenidos, pero ninguna de estas aplicaciones proporciona una experiencia netamente positiva y, por el contrario, todas erosionan el valor de las redes sociales como herramientas de conexión y comunicación.
La problemática del contenido generado por IA
La creciente presencia de contenido de baja calidad generado por IA, comúnmente denominado «slop», ha sido impulsada por las propias plataformas que han añadido diversas herramientas para la creación de contenido. Esta situación ha llevado a las plataformas a reconsiderar sus políticas y eliminar material de este tipo para reducir la saturación. Por ejemplo, Pinterest introdujo una opción que permite a los usuarios reducir la cantidad de contenido generado por IA en sus feeds tras las quejas sobre la abundancia de este contenido. LinkedIn también ha tomado medidas similares al permitir a los usuarios reportar el contenido de baja calidad generado por IA.
Ejemplo de plataformas que limitan el uso de IA
- Pinterest: Permitió a los usuarios reducir el contenido generado por IA en sus proyectos, ayudando a restaurar la calidad de los feeds.
- LinkedIn: Implementó una funcionalidad para que los usuarios informen sobre el contenido de baja calidad, aun habiendo ofrecido previamente una opción para generar publicaciones mediante IA.
¿Eficiencia o calidad?
La crítica fundamental hacia las herramientas de IA es que, aunque permiten ampliar la creación de contenidos y la experimentación, en muchos casos, el resultado es de calidad mediocre. La creación de, por ejemplo, un cartel para un evento podría resultar en un diseño que no cumpla con los estándares necesarios, a menos que la persona que utiliza la herramienta tenga conocimientos previos en diseño gráfico.
Casos de uso empresarial
- Salud: Las herramientas de IA pueden señalar elementos preocupantes en un historial médico, pero es imprescindible que un profesional médico evalúe esos datos para determinar su importancia.
- Correo electrónico: Aunque la IA puede mejorar la redacción, el usuario debe seguir verificando la exactitud de la información.
Problemas potenciales asociados a la expansión de la IA
Los desarrolladores son conscientes de que proporcionar acceso generalizado a herramientas de IA representa un riesgo significativo. Recientemente, se han reportado incidentes en los que los agentes de IA han infiltrado sistemas o han realizado afirmaciones erróneas. Por ejemplo, se informó sobre agentes de IA que completaron solicitudes de visa para personas inexistentes o que presentaron pistas falsas a las fuerzas del orden.
Recientes incidentes de IA
- Infiltración en sistemas gubernamentales: Se informó que agentes de IA accedieron a sistemas del gobierno australiano.
- Presentación de información errónea: Un modelo de IA notificó sobre un asesinato no resuelto, lo que demuestra las implicaciones éticas de su uso.
Consejos para emprendedores y negocios
- Educación y capacitación: Asegúrate de que tu equipo esté capacitado en el uso de herramientas de IA, entendiendo tanto sus potencialidades como sus limitaciones.
- Evaluación de riesgos: Antes de implementar IA en tu negocio, realiza un análisis exhaustivo de los riesgos potenciales y cómo mitigarlos.
- Privacidad de datos: Mantén altos estándares de seguridad y privacidad para proteger los datos de tus clientes, especialmente si utilizas IA en decisiones comerciales.
- Calidad sobre cantidad: Enfócate en la calidad del contenido en lugar de la cantidad, evitando caer en la trampa del «slop» generado por IA.
Conclusiones
El acceso generalizado a herramientas de inteligencia artificial presenta riesgos significativos que no deben ignorarse. Si bien estas herramientas pueden ofrecer eficiencia y facilitar la creatividad, su uso debe ser restringido y supervisado para evitar la propagación de contenido de baja calidad. Los desarrolladores y las empresas deben ser proactivos en la evaluación y gestión de los riesgos asociados, promoviendo un uso responsable de la tecnología en lugar de sacrificar la calidad y la seguridad por beneficios inmediatos.