El Ministerio de Empresa, Innovación y Empleo bloquea la tecnología de IA del uso del personal

Por RNZ

El Ministerio de Empresas, Innovación y Empleo ha prohibido al personal utilizar tecnología de inteligencia artificial como ChatGPT, citando riesgos de datos y privacidad.

Una serie de grandes bancos y empresas de tecnología, incluidos Apple y Samsung, han tomado medidas similares en el extranjero.

Nueva Zelanda sigue sin reglas o pautas gubernamentales para el uso de inteligencia artificial por parte de ministerios y agencias.

Los problemas de privacidad indican proceder con advertencia de precaución

Los documentos muestran que en marzo, MBIE bloqueó el acceso del personal a varias herramientas de IA, incluido ChatGPT.

Al ministerio le preocupaba que el personal pudiera poner información confidencial en la tecnología que luego podría resurgir.

MBIE ha presionado el botón de pausa mientras determina si la tecnología se puede usar de manera segura.

Nikki Chamberlain, profesora de derecho de la Universidad de Auckland y experta en derecho de inteligencia artificial, dijo que la precaución era prudente.

“Es una tecnología nueva y aún no sabemos las consecuencias.

«Y solo el tiempo podrá decir si la información que está ingresando allí estará protegida y será privada».

En Nueva Zelanda no existe una regulación o legislación específica de IA, y los documentos internos de MBIE dicen que «no hay reglas ni pautas para todas las agencias gubernamentales sobre el uso del personal». [of] herramientas de IA”.

Un portavoz del director digital del Gobierno en el Departamento de Asuntos Internos dijo que el Gobierno estaba trabajando en una guía para las agencias que esperaba tener pronto.

Dijo que a su propio personal DIA no se le ha prohibido el uso de herramientas de IA.

El comisionado de privacidad, Michael Webster, dijo que dependía de las agencias gubernamentales y las empresas individuales decidir si usan la IA y cómo lo hacen.

«Y si los riesgos son demasiado altos, mi expectativa sería que no procederán con esa propuesta».

Frith Tweedie, de la consultora Simply Privacy, dijo que el personal necesitaba orientación y protección.

«No creo que sea irrazonable hacer una pausa mientras trabajas en eso, creo que todas las agencias gubernamentales deberían estar formando una posición sobre qué es un uso apropiado e inapropiado.

«Y para algunos de ellos, una prohibición total podría ser apropiada para aquellos que manejan información particularmente sensible».

Muchas empresas en el extranjero prohíben que el personal use IA

ChatGPT se entrena con la alimentación de Internet y, al predecir la siguiente palabra en una secuencia, escupe respuestas de oraciones completas a las preguntas.

Contiene una gran cantidad de información no examinada y es esencialmente una caja cerrada: una vez que se ha ingresado la información, es casi imposible volver a salir.

El organismo de control de la privacidad de Canadá inició una investigación sobre OpenAI sobre su tecnología Chat GPT, e Italia prohibió brevemente el uso del producto por motivos de privacidad.

Muchas empresas internacionales han prohibido o restringido el uso de la tecnología por parte del personal, incluidas Apple, Samsung, Amazon, JPMorgan Chase, Deutsche Bank y Goldman Sachs.

Se necesita legislación sobre IA

El mes pasado, OpenAI reforzó algunas de las configuraciones de privacidad de ChatGPT, pero los ajustes se agregaron y las preguntas sobre privacidad permanecen.

«Ciertamente estoy recomendando que las organizaciones y los individuos… tengan cuidado, definitivamente apaguen el historial de chat, pero aun así evitaría ingresar cualquier información confidencial o información personal», dijo Tweedie.

Europa tiene leyes de privacidad mucho más estrictas y sanciones mucho más altas que en Aotearoa.

Chamberlain dijo que Nueva Zelanda necesitaba una legislación que cubriera la IA.

«Hasta que tengamos leyes que regulen el uso de la IA y la información que posee la IA, y luego cómo se puede usar esa información en el futuro, solo debemos tener mucho cuidado».

Mientras tanto, a fines del mes pasado, el Comisionado de Privacidad emitió un consejo para que las agencias y las empresas usen la tecnología.

Eso incluye al personal que considera si es necesario y proporcionado usar IA en absoluto.

Dijo que las empresas y las agencias gubernamentales deberían hacer una evaluación del impacto del riesgo de privacidad para determinar las áreas de peligro que se deben evitar.

Quiere que los sectores público y privado trabajen juntos para ofrecer consejos sobre la mejor manera de utilizar la tecnología de manera segura.