En un mundo donde la inteligencia artificial avanza a pasos agigantados, Nueva York ha decidido tomar las riendas. Ha inaugurado el Centro de Responsabilidad e Investigación en IA, que no es solo un nombre pomposo, sino una respuesta a la creciente preocupación sobre cómo estas tecnologías impactan nuestras vidas. Con más de 80 investigadores al servicio de esta causa, el objetivo es claro: evaluar de manera independiente la seguridad y funcionamiento de los modelos más avanzados.
Un paso necesario hacia la transparencia
Desde que ChatGPT apareció en escena, muchos hemos sentido esa mezcla de fascinación y temor por lo que puede hacer la IA. Las grandes empresas llevan años desarrollando sistemas cada vez más poderosos, pero también más complejos. Y aquí es donde entra en juego este nuevo centro, ubicado en la Universidad de Binghamton, parte del sistema SUNY. Este lugar busca no solo investigar sobre seguridad sino también acelerar descubrimientos científicos y probar esos sistemas avanzados.
La gobernadora Kathy Hochul ha dejado claro que esto no se trata solo de palabras; se trata de exigir responsabilidades. Ella argumenta que mientras el gobierno federal parece estar parado, Nueva York está dando pasos firmes porque hay mucho en juego. “No podemos simplemente confiar en lo que dicen las empresas”, dice con firmeza.
Liderando este ambicioso proyecto están dos figuras destacadas: Greg Morrisett y Jeannette Wing, reconocidos expertos en informática y ciberseguridad. Usarán recursos como la infraestructura de supercomputación Empire AI para verificar si estos modelos funcionan como prometen y desarrollar nuevas formas de evaluación para las futuras generaciones.
No todo termina aquí; la ley RAISE (Responsible AI Safety and Education Act) establece normas claras sobre seguridad y transparencia para quienes desarrollan estas potentes herramientas en Nueva York. La oficina DIGIT será la encargada de supervisar a los grandes desarrolladores y asegurarse de que cumplan con sus obligaciones.
A partir del 1 de enero de 2027, todas estas empresas deberán informar sobre sus protocolos y cualquier incidente crítico dentro de un plazo máximo. Si no lo hacen o si incumplen sus propias reglas, podrían enfrentarse a sanciones económicas bastante serias. Es un intento por poner orden en un campo donde aún hay demasiadas sombras.