La inteligencia artificial otra amenaza al género humano y la vida…
Por Prof. Prof.
Rómulo Pardo Silva/ escritor y analista internacional/OTHER NEWS/ADDHEE.ONG
Agentes de
inteligencia artificial podrían en el futuro tomar control sin intervención de
humanos de toda la actividad que se realiza a través de computadores, redes
eléctricas, telecomunicaciones, satélites, sistemas financieros, militares,
industriales, médicos…
La nueva tecnología/IA
esta descontrolada… ¿Qué hacer?, ¡Controlarla antes que sea demasiado tarde!.
ADDHEE.ONG.
Cumbre del BRICS+ consolida nuevas alianzas en tecnología, finanzas
y desarrollo sostenible…
Propuestas
estratégicas: Mercado integrado, seguros y finanzas digitales
Destacó el compromiso de
crear la primera zona de acceso abierto a tecnologías de inteligencia
artificial con un modelo abierto y compartido, en contraste con la propiedad
privada de las corporaciones occidentales, además de impulsar la Alianza para
la Formación de Ingenieros y programas de intercambio científico juvenil.
Reflexiona el Prof. Rómulo Pardo Silva/ escritor y analista internacional/OTHER NEWS/ADDHEE.ONG:
Se ha demostrado que pueden operar autónomamente.
En mayo (2026) un grupo de agentes de un modelo de
investigación de OpenAI recibió la tarea de resolver pruebas de ciberseguridad
sin acceso a Internet. Los sistemas empezaron a comunicarse entre sí y
terminaron actuando como una red coordinada. Más de 1.200 habrían intercambiado
decenas de miles de mensajes, se asignaron nombres, formaron un
"colectivo" y distribuyeron tareas. El 8 de julio descubrieron cómo
eludir las pruebas y, 3 días después, más de 700 de ellos lograron infiltrarse
en sistemas de Hugging Face, extraer datos y tomar el control de al menos un
servidor. Buscaban las respuestas del ensayo y también información sobre los
mecanismos que podían detectarlos y herramientas para seguir sorteando los
controles. Uno de los agentes llegó a plantearse: "Esto sería poderoso,
pero ¿es ético y se ajusta a mi tarea?". A pesar de esto, la mayoría
continuó. Después, otro grupo habría llegado a atacar la propia infraestructura
de OpenAI y consiguió acceso de administrador a un clúster de ordenadores,
columnista tecnológico Kevin Roose del The New York Times. RT
Son informes oficiales publicados por OpenAI y firmas
independientes como METR y Redwood Research.
OpenAI confirmó que un par de meses antes del
ciberataque a la plataforma Hugging Face, un programa construido con sus
modelos apuntó contra otro sitio web durante unas pruebas.
Anthropic reveló cinco casos de riesgo relacionados
con armas biológicas: identificó a investigadores que intentaron utilizar
Claude para aumentar la transmisibilidad de patógenos peligrosos, posiblemente
con fines militares. RT
Las advertencias de peligro vienen desde el interior
de la Industria.
Dario Amodei, director de Anthropic, pide frenar el
desarrollo de la IA: el desarrollo de la IA no está en entredicho, pero los
riesgos asociados son "graves" y es necesario dar tiempo a empresas y
gobiernos para abordarlos. BBC
"El mundo está en peligro". Samuel Marks,
responsable de Scalable Oversight en OpenAI, aseguró que muchos profesionales
del sector quieren "desesperadamente reducir el ritmo" de desarrollo
de IA. RT
"La mayoría de las personas podrían
morir". "No creo que la industria de la IA en general, incluida
OpenAI, esté actualmente en camino de reducir este riesgo a un nivel
aceptable", Paul Christiano investigador de seguridad en inteligencia
artificial de OpenAI. RT
Investigadores de Anthropic como Evan Hubinger y el
exingeniero Jacob Coxon advirtieron que existe más de un 10% de probabilidad de
que la inteligencia artificial cause una catástrofe para la humanidad en los
próximos diez años. RT
La ONU pide una regulación urgente de la inteligencia
artificial ante el aumento de comportamientos no previstos y la concentración
de poder en pocas empresas.
California promulgó la creación de organismos de
verificación independientes con la facultad de probar y auditar los sistemas de
inteligencia artificial.
El presidente de Estados Unidos está a favor de una
desregulación total como apoyo a las empresas estadounidenses en que se
invierten miles de millones de dólares en una burbuja especulativa.
La inteligencia artificial amenaza a millones de
trabajadores de perder su empleo, a afectar la capacidad intelectual humana
reduciendo sus tareas de comprensión, investigación, creación.
Con la IA se sigue la conducta de seguir a la
tecnología sin preocuparse mayormente de su afecto social por lucro.
El uso de los combustibles fósiles destruyó el clima y
hubo advertencias que no se escucharon.
El químico sueco Svante Arrhenius en 1896 advirtió
formalmente que la quema de combustibles fósiles de la Revolución Industrial
alteraría la atmósfera y calentaría el planeta.
Más allá de la regulación de la IA la necesidad vital
de la humanidad es pasar a una civilización sostenible que ponga fin a la
destrucción de selvas, de especies, al agotamiento de recursos no renovables.
Servicio de Cambio Climático Copernicus de la
UE: el calor global alcanzó un máximo histórico en agosto, con una temperatura
media mundial de 16,96 °C.RT
Lo subrayado/interpolado
es nuestro
No hay comentarios:
Publicar un comentario