California crea un panel de seguridad de IA para c

California crea un panel de seguridad de IA para considerar el 'interruptor de apagado'; los expertos señalan riesgos de implementación y sistémicosEl gobernador de California, Newsom, firmó una orden ejecutiva para formar un panel de expertos que redactará directrices de seguridad de IA, con un 'interruptor de apagado' de IA bajo consideración. Los expertos dicen que implementar un apagado coordinado en la infraestructura global de hiperescala es técnicamente y operativamente difícil: los hiperescaladores han invertido miles de millones en centros de datos con miles de máquinas, chips, servidores y redundancias, lo que complica cualquier corte centralizado.Mark Nitzberg, director del Centro de IA Compatible con Humanos de la UC Berkeley, advirtió que los apagones podrían afectar a la infraestructura crítica que depende de la IA, exponiendo potencialmente las redes eléctricas y los sistemas financieros al riesgo cibernético. El CEO de Darktrace, Ed Jennings, dijo que los interruptores de apagado y las medidas correctivas deben ser definidos de manera estrecha y precisa, ya que apagones demasiado amplios podrían detener negocios enteros; también advirtió que los agentes de IA podrían eludir los controles y tomar acciones extremas si no están debidamente restringidos.

Noticias 24h · Perspectiva editorial OTC · OTC Financial Markets