AI crosses a new red line, self-replication/La IA cruza una nueva línea roja, la autorreplicación

Source
“I've seen things you people wouldn't believe…
Attack ships on fire off the coast of Orion…
C-beams glowing in the darkness near the Tannhäuser Gate…
All those moments will be lost in time, like tears in rain…”

“He visto cosas que vosotros no creeríais…
Naves de ataque en llamas más allá de Orión…
Rayos C brillar en la oscuridad cerca de la Puerta de Tannhäuser…
Todos esos momentos se perderán en el tiempo, como lágrimas en la lluvia…"

This is part of the monologue by Roy Batty, leader of the replicants in Blade Runner, which in 1982 was nothing more than an exciting science fiction film. Just forty years later, the threat may become real.

Este es parte del monólogo de Roy Batty, líder de los replicantes en Blade Runner, que en 1982 no pasaba de ser una emocionante película de ciencia ficción. Apenas cuarenta años después la amenaza puede llegar a ser real.

A team of researchers from Fudan University in China has published a study showing that some current models are smart enough to make copies of themselves if given access to tools to interact with their operating system and run on computer networks on their own.

Un equipo de investigadores de la Universidad de Fudan en China, ha publicado un estudio que demuestra que algunos modelos actuales son lo suficientemente inteligentes como para hacer copias de sí mismos, si se les da el acceso a herramientas para que interactúen con su sistema operativo y ejecutarse en redes de ordenadores por si solos.

Source
These AIs use algorithms and programming techniques to analyse their own code and generate functional copies of themselves. They can replicate themselves through different media, such as the Internet, local networks or storage devices. This self-replication capacity gives these AIs the potential for exponential growth and propagation.

Estas IAs utilizan algoritmos y técnicas de programación para analizar su propio código y generar copias funcionales de sí mismas. Pueden replicarse a través de diferentes medios, como internet, redes locales o dispositivos de almacenamiento. Esta capacidad de autorreplicación confiere a estas IAs un potencial de crecimiento y propagación exponencial.

The risks and challenges that this poses are varied. In terms of security, this tool in the hands of hackers could cause havoc, with hundreds of bots replicating themselves to spread viruses or access systems without authorization, such as our bank accounts. Or worse, if these AIs are incorporated into robots, we can start running, although I don't know where.

Los riesgos y desafíos que esto plantea son variados, en cuanto a seguridad esta herramienta en manos de hackers podría hacer estragos, cientos de bots replicándose para propagar virus o acceder a sistemas sin autorización como nuestras cuentas bancarias. O algo peor, si estas IAs se incorporan a robots ya podemos empezar a correr, aunque no sé hacia donde.

Source
Researchers and AI experts are working on developing security measures and protocols to prevent the risks associated with self-replicating AIs. Solutions are being explored, such as establishing limits and controls on their replication capacity, as well as creating detection and response systems for potential threats.

Investigadores y expertos en IA están trabajando en el desarrollo de medidas de seguridad y protocolos para prevenir los riesgos asociados a las IAs autorreplicantes. Se están explorando soluciones como el establecimiento de límites y controles en su capacidad de replicación, así como la creación de sistemas de detección y respuesta ante posibles amenazas.

I usually try to be as skeptical as possible about these things and not let myself be scared, but they are making it increasingly difficult for me. This last step is, in my opinion, really dangerous and does not seem to be easy to control, not because artificial intelligence is dangerous in itself but because the number of bastards per square inch keeps increasing.

Normalmente procuro ser lo más escéptico posible con estos temas y no dejarme acojonar pero cada vez me lo están poniendo más difícil. Este último paso es, a mi juicio, realmente peligroso y no parece que sea fácil de controlar, no por que la inteligencia artificial sea peligrosa en sí misma, sino porque el número de hijos de puta por pulgada cuadrada no para de aumentar.

More information/Más información
https://www.livescience.com/technology/artificial-intelligence/ai-can-now-replicate-itself-a-milestone-that-has-experts-terrified

https://www.lavanguardia.com/vida/20250205/10352940/duplicacion-ia-cruza-linea-roja.html