Todo el mundo sabe que la desinformación en línea es un problema enorme, que posiblemente ha comunidades desgarradas, manipularon elecciones, y provocaron que ciertos segmentos de la población global perder la cabeza. Por supuesto, nadie parece especialmente preocupado por solucionar realmente este problema. De hecho, las instituciones más responsable por la desinformación en línea (y, por lo tanto, las que están en mejor posición para hacer algo al respecto), es decir, las empresas tecnológicas, parecen tener la intención de en hacer todo lo que puedan para empeorar exponencialmente el problema.
Caso en cuestión: OpenAI lanzado Sora, su nuevo generador de texto a video, el jueves. El modelo está diseñado para permitir a los usuarios web generar videos de IA de alta calidad con solo un mensaje de texto. Actualmente, la aplicación está sorprendiendo a Internet con su extraña variedad de imágenes visuales, ya sea un desfile del Año Nuevo Chino, un hombre corriendo hacia atrás en una cinta de correr en la oscuridad, un gato en una cama, o dos barcos piratas dando vueltas en una taza de café.
Llegados a este punto, a pesar de su misión de “cambiar el mundo”, se podría argumentar que la mayor contribución de OpenAI a Internet ha sido la instantánea generación de incontables terabytes de basura digital. Todas las herramientas públicas y abiertas de la empresa son generadores de contenido, como, Los expertos han advertido, están preparados para ser utilizados en campañas de fraude y desinformación.
en su publicación de blog Sobre Sora, el equipo de OpenAI reconoce abiertamente que podría haber algunas desventajas potenciales en su nueva aplicación. La compañía dijo que está trabajando en algunas tecnologías de marcas de agua para marcar contenido que su generador ha creado y que está en el proceso de interactuar con personas conocedoras para descubrirlo Cómo hacer que el inevitable diluvio de basura generada por IA que Sora desatará sea menos tóxico. Sora aún no está abierto al público y, mientras tanto, OpenAI dice que está creando sistemas que negarán a los usuarios que quieran generar imágenes violentas o sexuales. :
Involucraremos a formuladores de políticas, educadores y artistas de todo el mundo para comprender sus inquietudes e identificar casos de uso positivos para esta nueva tecnología. . A pesar de investigaciones y pruebas exhaustivas, no podemos predecir todas las formas beneficiosas en que las personas utilizarán nuestra tecnología, ni todas las formas en que las personas abusará de ello.
Este tipo de encuadre del problema es bastante gracioso porque ya es totalmente obvio cómo se podría abusar potencialmente de la nueva herramienta de OpenAI. Sora generará contenido falso a una escala gigantesca, eso está claro. Parece probable que parte de ese contenido se utilice para Para fines de la desinformación política en línea, parte de ella podría, hipotéticamente, usarse para ayudar en una variedad de fraudes y estafas, y algunos de podría utilizarse para generar contenido tóxico. OpenAI ha dicho que quiere poner límites significativos al contenido violento y sexual, pero la web Los usuarios y los investigadores han demostrado lo inteligentes que pueden ser. en hacer jailbreak a sistemas de IA para generar los tipos de contenido que desobedecen las políticas de uso de las empresas. Todo este contenido de Sora obviamente va a inundar los canales de redes sociales , haciendo que sea más difícil para la gente común distinguir entre lo que es real y lo que es falso, y haciendo que Internet, en general, sea mucho más Más molesto. No creo que sea necesario un panel global de expertos para resolver eso.
También hay otras desventajas obvias. Por un lado, Sora (y otros de su calaña) probablemente no tendrán la mejor impacto ambiental. Los investigadores han demostrado que los generadores de texto a imagen son significativamente peores, desde el punto de vista medioambiental, que los generadores de texto, y simplemente,crear una imagen de IA requiere la misma cantidad de energía que para cargar completamente su teléfono inteligente. Por otra parte, Las nuevas tecnologías de generación de texto a video probablemente dañarán la economía de los creadores de videos, porque ¿por qué las empresas deberían pagarle a las personas para que creen contenido visual cuando todo ¿Qué es necesario para crear un vídeo es hacer clic en un botón?
En lo que respecta a la clase corporativa en este país, nada realmente importa excepto el dinero. Al carajo con el medio ambiente, con los artistas, con Internet. que esté libre de desinformación, que se joda la salud del discurso político, que se joda cualquier cosa que se interponga en el camino del afán de lucro. Cualquier cosa que pueda ser exprimido para ganar dinero debería ser exprimido, incluso si es un programa de software cuya única utilidad real es que puede generar un vídeo de un hámster vaquero montando un dragón. Como un X usuario lo puso: “Esto es por lo que los imbéciles sacrifican el medio ambiente. Estúpida. Mierda. Como. Esto”.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.
