Google insta a los desarrolladores externos de aplicaciones de Android a incorporar funciones de inteligencia artificial generativa (GenAI) de manera responsable.<\/p>\n
La nueva gu\u00eda del gigante de las b\u00fasquedas y la publicidad es un esfuerzo por combatir el contenido problem\u00e1tico, incluido el contenido sexual y el discurso de odio, creado a trav\u00e9s de dichas herramientas.<\/p>\n
Para ello, las aplicaciones que generan contenido utilizando IA deben asegurarse de no crear Contenido restringido<\/a>tener un mecanismo para que los usuarios reportar o marcar informaci\u00f3n ofensiva<\/a>y comercializarlos de una manera que represente con precisi\u00f3n las capacidades de la aplicaci\u00f3n. Tambi\u00e9n se recomienda a los desarrolladores de aplicaciones que prueben rigurosamente sus modelos de IA para garantizar que respetan la seguridad y la privacidad del usuario.<\/p>\n “Aseg\u00farese de probar sus aplicaciones en varios escenarios de usuario y protegerlas contra indicaciones que podr\u00edan manipular su funci\u00f3n de IA generativa para crear contenido da\u00f1ino u ofensivo”, Prabhat Sharma, director de confianza y seguridad de Google Play, Android y Chrome, dicho<\/a>.<\/p>\n El desarrollo surge como una investigaci\u00f3n reciente de 404 Media. encontr\u00f3<\/a> varias aplicaciones en Apple App Store y Google Play Store que anunciaban la capacidad de crear im\u00e1genes de desnudos no consensuales.<\/p>\n La r\u00e1pida adopci\u00f3n de tecnolog\u00edas de inteligencia artificial en los \u00faltimos a\u00f1os tambi\u00e9n ha generado preocupaciones m\u00e1s amplias sobre privacidad y seguridad relacionadas con los datos de entrenamiento y la seguridad de los modelos, brindando a los actores maliciosos una forma de extraer informaci\u00f3n confidencial y alterar los modelos subyacentes para obtener resultados inesperados.<\/p>\n Es m\u00e1s, la decisi\u00f3n de Meta de utilizar la informaci\u00f3n p\u00fablica disponible en todos sus productos y servicios para ayudar a mejorar sus ofertas de IA y tener la “La mejor tecnolog\u00eda de recomendaci\u00f3n del mundo.<\/a>” ha llevado a la empresa austriaca de privacidad noyb a presentar una queja<\/a> en 11 pa\u00edses europeos alegando violaci\u00f3n de las leyes de privacidad GDPR en la regi\u00f3n.<\/p>\n “Esta informaci\u00f3n incluye cosas como publicaciones p\u00fablicas o fotograf\u00edas p\u00fablicas y sus t\u00edtulos”, la compa\u00f1\u00eda Anunciado<\/a> a finales del mes pasado. “En el futuro, tambi\u00e9n podremos utilizar la informaci\u00f3n que la gente comparte cuando interact\u00faan con nuestras funciones de IA generativa, como Meta AI, o con una empresa, para desarrollar y mejorar nuestros productos de IA”. <\/p>\n Espec\u00edficamente, noyb ha acusado a Meta de trasladar la carga a los usuarios (es decir, hacer que opten por no participar en lugar de optar por participar) y de no proporcionar informaci\u00f3n adecuada sobre c\u00f3mo la empresa planea utilizar los datos de los clientes.<\/p>\n Meta, por su parte, ha se\u00f1alado que “se basar\u00e1 en la base jur\u00eddica de los ‘intereses leg\u00edtimos’ para procesar ciertos datos propios y de terceros en la regi\u00f3n europea y el Reino Unido” para mejorar la IA y crear mejores experiencias. Los usuarios de la UE tienen hasta el 26 de junio para optar por no participar en el procesamiento, lo que pueden hacer mediante presentando una solicitud<\/a>.<\/p>\n Si bien el gigante de las redes sociales se propuso explicar que el enfoque est\u00e1 alineado con la forma en que otras empresas tecnol\u00f3gicas est\u00e1n desarrollando y mejorando sus experiencias de IA en Europa, la autoridad noruega de protecci\u00f3n de datos Datatilsynet dijo que tiene “dudas” sobre la legalidad del proceso.<\/p>\n “En nuestra opini\u00f3n, lo m\u00e1s natural habr\u00eda sido pedir el consentimiento de los usuarios antes de que sus publicaciones y fotograf\u00edas se utilicen de esta manera”, dijo la agencia. dicho<\/a> en una oracion.<\/p>\n “El Tribunal de Justicia Europeo ya ha dejado claro que Meta no tiene ning\u00fan ‘inter\u00e9s leg\u00edtimo’ en anular el derecho de los usuarios a la protecci\u00f3n de datos en lo que respecta a la publicidad”, afirm\u00f3 Max Schrems de noyb. “Sin embargo, la empresa intenta utilizar los mismos argumentos para la formaci\u00f3n de una ‘tecnolog\u00eda de inteligencia artificial’ indefinida”.<\/p>\n El \u00faltimo alboroto regulatorio de Meta tambi\u00e9n llega en un momento en que la propia caracter\u00edstica impulsada por IA de Microsoft llamada Recall ha recibi\u00f3<\/a> reacci\u00f3n r\u00e1pida<\/a> debido a los riesgos de privacidad y seguridad que podr\u00edan surgir como resultado de capturar capturas de pantalla de las actividades de los usuarios en sus PC con Windows cada cinco segundos y convertirlas en un archivo con capacidad de b\u00fasqueda.<\/p>\n El investigador de seguridad Kevin Beaumont, en un nuevo an\u00e1lisis, descubri\u00f3 que es posible que un actor malicioso implemente un ladr\u00f3n de informaci\u00f3n y extraiga la base de datos que almacena la informaci\u00f3n analizada a partir de las capturas de pantalla. El \u00fanico requisito previo para lograr esto es que el acceso a los datos requiera privilegios de administrador en la m\u00e1quina del usuario.<\/p>\n “La recuperaci\u00f3n permite a los actores de amenazas automatizar la extracci\u00f3n de todo lo que has visto en cuesti\u00f3n de segundos”, Beaumont dicho<\/a>. “[Microsoft] Deber\u00edamos recordarlo y reelaborarlo para que sea la caracter\u00edstica que merece ser, entregada en una fecha posterior”.<\/p>\n Otros investigadores han demostrado de manera similar herramientas como TotalRecall que hacen que Recall sea propicio para el abuso y extraen informaci\u00f3n altamente confidencial de la base de datos. “Windows Recall almacena todo localmente en una base de datos SQLite no cifrada, y las capturas de pantalla simplemente se guardan en una carpeta de su PC”, Alexander Hagenah, quien desarroll\u00f3 TotalRecall, dicho<\/a>.<\/p>\n A partir del 6 de junio de 2024, TotalRecall se actualiz\u00f3 para que ya no requiera derechos de administrador utilizando uno de los dos m\u00e9todos que el investigador de seguridad James Forshaw describi\u00f3 para evitar el requisito de privilegios de administrador para poder acceder a los datos de Recall.<\/p>\n “S\u00f3lo est\u00e1 protegido siendo [access control list<\/a>]”Est\u00e1 conectado al SISTEMA y, por lo tanto, cualquier escalada de privilegios (o l\u00edmite no relacionado con la seguridad *tos*) es suficiente para filtrar la informaci\u00f3n”, Forshaw dicho<\/a>.<\/p>\n La primera t\u00e9cnica implica hacerse pasar por un programa llamado AIXHost.exe adquiriendo su token o, mejor a\u00fan, aprovechando los privilegios del usuario actual para modificar las listas de control de acceso y obtener acceso a la base de datos completa.<\/p>\n Dicho esto, vale la pena se\u00f1alar que Recall se encuentra actualmente en versi\u00f3n preliminar y Microsoft a\u00fan puede realizar cambios en la aplicaci\u00f3n antes de que est\u00e9 disponible para todos los usuarios a finales de este mes. Se espera que est\u00e9 habilitado de forma predeterminada para compatibilidad PC copiloto+<\/a>.<\/p>\n <\/p>\nEl uso de datos p\u00fablicos por parte de Meta para la IA genera preocupaciones<\/h2>\n
![\"La](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/06\/El-debate-sobre-la-IA-directrices-de-Google-disputa-sobre.png\")
<\/a><\/center><\/div>\nEl retiro del mercado de Microsoft enfrenta un mayor escrutinio<\/h2>\n
<\/a><\/center><\/div>\n<\/a><\/div>\n