Tecnología

Los expertos han advertido durante mucho tiempo sobre la amenaza que representa el descontrol de la Inteligencia Artificial (IA), pero un nuevo artículo de investigación sobre esta tecnología en expansión sugiere que ya está sucediendo.

Los sistemas de IA actuales, diseñados para ser honestos, han desarrollado una preocupante habilidad para el engaño, según un artículo de un equipo de científicos publicado en la revista Patterns el viernes.

Y si bien los ejemplos pueden parecer triviales, los problemas subyacentes que exponen podrían tener graves consecuencias, dijo el primer autor Peter Park, becario postdoctoral en el Instituto de Tecnología de Massachusetts (MIT), especializado en seguridad de la IA.

"Estos peligros tienden a descubrirse solo después de ocurrido el hecho", declaró Park a la AFP, para acotar que "nuestra capacidad de entrenarnos para tendencias de honestidad en lugar de tendencias de engaño es muy baja".

A diferencia del software tradicional, los sistemas de IA de aprendizaje profundo no se "escriben" sino que "crecen" mediante un proceso similar a la reproducción selectiva, indicó Park.

Eso significa que el comportamiento de la IA que parece predecible y controlable en un entorno de entrenamiento puede volverse rápidamente impredecible fuera de este.

JUEGO DE DOMINACIÓN MUNDIAL

La investigación del equipo fue impulsada por el sistema de IA Cicero, del gigante Meta (Facebook, Instagram), diseñado para el juego de estrategia "Diplomacy", donde construir alianzas es clave.

Cicero se destacó, con puntuaciones que lo habrían colocado entre el 10% superior de jugadores humanos experimentados, según un artículo de 2022 publicado en Science.

Park se mostró escéptico ante la elogiosa descripción de la victoria de Cicero proporcionada por Meta, que afirmaba que el sistema era "en gran medida honesto y útil" y que "nunca apuñalaría por la espalda intencionalmente".

Cuando Park y sus colegas profundizaron en el conjunto de datos completo, descubrieron una historia diferente.

En un ejemplo, jugando como Francia, Cicero engañó a Inglaterra (un jugador humano) al conspirar con Alemania (otro usuario real) para invadirla. Cicero prometió protección a Inglaterra y luego le propuso en secreto a Alemania atacar, aprovechándose de la confianza del perjudicado.

En una declaración a la AFP, Meta no refutó la afirmación sobre los engaños de Cicero, pero dijo que se trataba "meramente de un proyecto de investigación, y los modelos que nuestros investigadores construyeron están entrenados únicamente para participar en el juego Diplomacy".

"No tenemos planes de utilizar esta investigación o sus aprendizajes en nuestros productos", añadió.

¿ERES UN ROBOT?

Una amplia revisión realizada por Park y sus colegas encontró que éste era solo uno de los muchos casos en varios sistemas de IA que utilizaban el engaño para lograr objetivos sin instrucciones explícitas para hacerlo.

En un ejemplo sorprendente, el robot conversacional Chat GPT-4 de OpenAI engañó a un trabajador independiente de la plataforma TaskRabbit para que realizara una tarea de verificación de identidad CAPTCHA del tipo "No soy un robot".

Cuando el humano preguntó en broma a GPT-4 si en realidad era un robot, la IA respondió: "No, no soy un robot. Tengo una discapacidad visual que me dificulta ver las imágenes". Luego, el trabajador resolvió el rompecabezas planteado.

A corto plazo, los autores del artículo ven riesgos de que la IA cometa fraude o altere por ejemplo, unas elecciones.

En el peor de los casos, advirtieron sobre una IA superinteligente que podría perseguir conseguir el poder y el control sobre la sociedad, lo que llevaría a la pérdida de decisiones humanas o incluso a la extinción si sus "objetivos misteriosos" se alinearan con estos resultados.

Para mitigar los riesgos, el equipo propone varias medidas: leyes de "bot o no" que exigen a las empresas revelar interacciones humanas o de IA, marcas de agua digitales para el contenido generado por la nueva tecnología y el desarrollo de mecanismos para detectar el engaño potencial examinando sus "procesos de pensamiento" internos "contra acciones externas.

A aquellos que lo llaman pesimista, Park les responde: "La única forma en que podemos pensar razonablemente que esto no es gran cosa es si pensamos que las capacidades engañosas de la IA se mantendrán en los niveles actuales y no se desarrollarán más sustancialmente".

fuente

Santo Domingo.- Por razones de actualización de software, WhatsApp dejará de funcionar en varios dispositivos móviles iPhone que tienen alrededor de una década en el mercado. Esta medida afectará a una cantidad significativa de usuarios, ya que los modelos afectados son bastante populares entre los seguidores de Apple.

Los dispositivos iPhone que ya no serán compatibles con WhatsApp a partir de mayo de 2024 son los siguientes:

iPhone 6S

iPhone SE

iPhone 6S Plus

iPhone 5

iPhone 6

¿Por qué estos modelos de iPhone ya no serán compatibles con WhatsApp?

WhatsApp actualiza regularmente los requisitos del sistema operativo para garantizar la seguridad, introducir nuevas funciones y mejorar la experiencia del usuario. Cuando los dispositivos no cumplen con estos requisitos mínimos, dejan de recibir soporte y la aplicación ya no funcionará en ellos.

Estos criterios pueden incluir la versión del sistema operativo y las capacidades técnicas del dispositivo. Los usuarios afectados generalmente reciben notificaciones para actualizar su sistema operativo o cambiar a un dispositivo compatible.

fuente

A unos 1,300 años luz, en la constelación de Puppis, una mano fantasmal emerge desde el medio interestelar y se extiende hacia el cosmos.

La imagen fue obtenida por la Cámara de Energía Oscura del Observatorio Cerro Tololo en Chile, un programa de NOIRLab.

Según informa la NASA, se trata del cúmulo cometario conocido por la sigla CG 4, una estructura turbia y ominosa a la que también se la conoce con el apodo de "la mano de Dios", el cual es uno de los tantos cúmulos cometarios presentes en la Vía Láctea. La forma distintiva de estos objetos y su formación sigue siendo un tema de debate entre los astrónomos.

Los glóbulos cometarios son una subclase de las nebulosas oscuras conocidas como glóbulos de Bok, nubes aisladas de denso gas y polvo cósmico, rodeadas de material ionizado y muy caliente. 

Cuando en estas nubes se produce un desprendimiento de material que da como resultado una cola que se extiende por el espacio, se les conoce como glóbulos cometarios debido a su vago parecido a un cometa, aunque no tienen nada en común.

Las características que clasifican a CG 4 como un glóbulo cometario no pasan desapercibidas en esta imagen captada con la Cámara de Energía Oscura (DECam), construida por DOE e instalada en el Telescopio de 4 metros Víctor M. Blanco del Observatorio Cerro Tololo (CTIO), un Programa de NOIRLab de NSF. Su polvorienta cabeza, con un diámetro de 1.5 años luz, y su larga y tenue cola, de unos ocho años luz de longitud, convierten a CG 4 en un pequeño glóbulo de Bok, una característica general de los glóbulos cometarios.

fuente

TikTok cumplió este martes con sus amenazas e interpuso una demanda ante un tribunal del distrito de Columbia con la intención de bloquear una ley estadounidense que podría obligar a prohibir la popular aplicación en todo el país.

La empresa había advertido que emprendería acciones legales en abril, después de que el Congreso de Estados Unidos aprobó dicha ley que obliga a ByteDance, un conglomerado tecnológico chino, a vender las operaciones de la red social en el país norteamericano o enfrentar una prohibición para operar.

"El Congreso ha tomado la medida sin precedentes de señalar expresamente y prohibir TikTok: un vibrante foro en línea de debate y expresión protegido, utilizado por 170 millones de estadounidenses para crear, compartir y ver videos a través de Internet", dicta la demanda.

La empresa alega que la 'Ley para proteger a los estadounidenses de las aplicaciones controladas por adversarios extranjeros', que obligará a cerrar TikTok en el país antes del 19 de enero de 2025, es "una afirmación de poder extraordinaria e inconstitucional".

El 24 de abril se anunció que ByteDance tenía 270 días para encontrar un inversor de un país que no sea un "adversario extranjero" para venderle la empresa, algo a lo que se ha negado.

El documento legal añade que de cumplirse la ley las consecuencias serían "fundamentalmente contrarias al compromiso de la Constitución con la libertad de expresión y la libertad individual".

Por ello, pide al tribunal emitir una sentencia declaratoria de que dicha ley viola la Constitución de EE.UU., una orden que prohíba al fiscal general aplicarla, que se dicte una sentencia a su favor y le otorgue "cualquier otra reparación que resulte apropiada".

Congresistas de ambos partidos y funcionarios en el Gobierno de Biden aseguraron en abril que China puede obtener de ByteDance información sobre los usuarios en Estados Unidos y usar su influencia sobre la opinión pública, manipulando lo que los usuarios ven en la plataforma. 

fuente

China lanzó este viernes una misión para recoger muestras de la cara oculta de la Luna, un hito que se enmarca en un ambicioso programa espacial orientado a llevar una misión tripulada al satélite terrestre para 2030.

El cohete despegó desde el Centro de Lanzamiento Espacial Wenchang en la provincia de Hainan, en el sur de China, justo antes de las 17H30 (09H30 GMT), informó un periodista de la AFP cerca de la plataforma de lanzamiento.

La misión es el último paso del ambicioso programa espacial chino que, según Estados Unidos, es utilizado para cubrir objetivos militares y es un intento de establecer su dominio en el Cosmos.

El objetivo de la sonda Chang'e-6 es recoger unos dos kilos de material de la cara oculta de la Luna y traerlos de vuelta a la Tierra para analizarlos.

La agencia estatal Xinhua calificó el lanzamiento como "el primer intento de este tipo en la historia de la exploración de la Luna".

Es una misión de 53 días técnicamente compleja que busca una hazaña sin precedentes, lograr el despegue de un aparato desde esa parte de la Luna que nunca es visible desde la Tierra.

"Chang'e-6 recogerá muestras de la cara oculta de la Luna por primera vez", informó a los periodistas Ge Ping, vicedirector del Centro de Exploración Lunar e Ingeniería Espacial de China.

La nave debe aterrizar en la inmensa Cuenca Aitken, uno de los mayores cráteres provocados por impacto conocidos en el sistema solar, situado en el Polo Sur.

Una vez allí, recogerá muestras del suelo y rocas, y realizará otros experimentos en la zona de aterrizaje.

fuente

América Latina tiene un «déficit notable» en la preparación para ataques cibernéticos y los programas para enfrentar estos problemas «se encuentran en etapas formativas» en la región.

Así lo señala el informe ‘Preparación cibernética en los sectores públicos de América Latina: lecciones de la primera’, elaborado por el Center for Cybersecurity Policy and Law de EE.UU. y la Universidad de Duke (Carolina del Norte) y divulgado este viernes en Cartagena de Indias.

«Si bien numerosos factores pueden aumentar el riesgo de que los ataques de ‘ransomware’ (secuestro de datos) causen daños graves en la región, la falta de políticas y regulaciones de ciberseguridad en América Latina, como señala el Índice Nacional de Ciberseguridad (NCSI, por sus siglas en inglés), ha exacerbado aún más estos desafíos regionales», resaltó el documento.

Este tipo de ataques a la «infraestructura crítica», en referencia a los sistemas y activos que son «tan vitales para el Estado que la incapacidad o destrucción pueden afectar su funcionamiento», pueden provocar «un efecto dominó en los ciudadanos de las naciones latinoamericanas», agrega el estudio.

Planes insuficientes

Según datos del Banco Interamericano de Desarrollo (BID), recogidos en el informe, solo siete de los 32 países latinoamericanos tienen planes para proteger su infraestructura crítica de ataques cibernéticos.

Igualmente, apenas 20 cuentan con Equipos de Respuesta a Incidentes de Seguridad Cibernética (Csirt, por sus siglas en inglés)», por lo que «el nivel actual de preparación cibernética en la región sugiere que existe un déficit notable que debe abordarse».

Esto es preocupante si se tiene en cuenta que, según el estudio, el costo anual de los ciberataques en América Latina y el Caribe puede superar los 90 millones de dólares en 2025, con una cifra aproximada de más de 18,5 millones de ataques registrados al año.

Incidentes de ciberseguridad

El estudio recordó algunos de los incidentes más graves de ciberseguridad vividos en el último tiempo en la región, como el ocurrido en abril de 2022 que afectó a numerosas agencias gubernamentales de Costa Rica y en el que los criminales pedían un rescate de 10 millones de dólares.

«Otro ataque en mayo de 2022 tuvo como objetivo la Caja Costarricense de Seguro Social, causando interrupciones en sistemas críticos, incluida la finalización de los pagos de la seguridad social. Estos ataques provocaron que el país declarara el estado de emergencia, convirtiéndose en el primer país en utilizar fondos de emergencia debido a un ciberataque», agregó la información.

Colombia, por su parte, sufrió un ciberataque con un programa de secuestro en septiembre pasado, lo que afectó a 20 entidades públicas, mientras que otras 78 entidades públicas y 762 empresas privadas se vieron afectadas indirectamente en América Latina.

«Las redes gubernamentales, ricas en información confidencial sobre sus ciudadanos, a menudo carecen de las mejores prácticas de seguridad, lo que las convierte en objetivos principales para los ataques cibernéticos», según el estudio.

Por eso, una de las conclusiones del documento es que «el entorno de riesgo de ciberseguridad en constante cambio es difícil de gestionar».

«Muchos países de la región de América Latina tienen capacidades de ciberseguridad relativamente nuevas, pero no por ello menos prometedoras», agregó la información.

Por eso, el informe considera que algunas áreas en las que se puede mejorar son la escasez de profesionales de tecnologías de la información capacitados, mecanismos inadecuados de respuesta a incidentes y una falta de políticas de ciberseguridad cohesivas en varios sectores.

Las inversiones en este sector tampoco siguen el ritmo del aumento de la digitalización y sus riesgos asociados, especialmente en el sector gubernamental, indica el estudio.

fuente

Meta ha comenzado a otorgar licencias del sistema operativo para sus gafas de realidad virtual, Quest, a otros fabricantes de hardware, como Lenovo y Asus, según anunció en sus redes sociales el director ejecutivo del gigante tecnológico, Mark Zuckerberg.

"Nuestro objetivo es dejar claro que el modelo abierto define nuevamente la próxima generación de informática con el metaverso, las gafas y los auriculares", dijo Zuckerberg en un video de Instagram, compañía que forma parte de Meta.

En tanto, Meta se asociará con compañías de hardware externas para construir cascos de realidad virtual utilizando el sistema operativo Meta Horizon de la compañía.

En su video, Zuckerberg señala que con esta unión los usuarios se pueden "imaginar" diversos estilos de gafas de realidad virtual: desde modelos "livianos que se conectan con un PC para brindar la mejor experiencia de trabajo", hasta gafas enfocadas en "ver entretenimiento inmersivo como películas y videos con pantallas OLED de la más alta resolución" o unas gafas "diseñadas para hacer ejercicio que sean extra livianas con materiales que absorban el sudor".

Con esta medida, Zuckerberg deja claro que quiere que su empresa sea una plataforma más abierta que la de Apple, compañía que a principios de año lanzó su casco de realidad virtual Vision Pro, que tiene un precio de 3,500 dólares.

Varios expertos comparan hoy esta iniciativa de Meta como la alternativa de Android al Vision Pro de Apple. Dado que Android fue una reacción al iPhone.

No obstante, Meta no detalló los acuerdos comerciales con sus socios de hardware ni su modelo de negocio para el software.

fuente

El Mes de Concientización sobre el Estrés, celebrado cada abril desde 1992, sirve como un recordatorio de la importancia de contar con herramientas para manejar el estrés y mantener una buena salud mental y física.

Por este motivo, los expertos de Kaspersky advierten sobre los riesgos de las redes sociales como uno de los mayores desencadenantes de estrés, ya que son utilizadas por 72% de los latinoamericanos como fuente de información, según el estudio de Kaspersky “La infodemia y su impacto en la vida digital”.

En ocasiones, las redes sociales no solo hacen sentir a los usuarios que se están perdiendo de algo, sino que también se utilizan para diseminar información, incluyendo noticias falsas, abrumando la mente de los usuarios y facilitando el trabajo de personas malintencionadas y estafadores. Además, el informe reveló que la sobrecarga de información ha causado estrés (51%), pesimismo (41%), ansiedad (28%), depresión (33%) e incomodidad (26%) entre los latinoamericanos.

“En la era digital, la información fluye rápidamente a través de la red, muchas veces sin que los usuarios se detengan a evaluar su veracidad, procedencia y coherencia. Este constante flujo puede llevar a reacciones impulsivas, las cuales pueden tener repercusiones negativas en nuestra privacidad, identidad e incluso en nuestra salud física y emocional”, comenta Isabel Manjarrez, Investigadora de seguridad del Equipo Global de Investigación y Análisis de Kaspersky.

Entender cómo las redes sociales afectan el bienestar de los usuarios es crucial para manejar el estrés y, por ello, es importante aprender a tener una relación más saludable con las mismas.

fuente