El CEO de OpenAI, Altman, hace sonar la alarma sobre la IA y ChatGPT

El CEO de OpenAI, Sam Altman, y Fang Bingxing, considerado el "padre del Gran Cortafuegos de China", se unen al cofundador de OpenAI, Elon Musk, para plantear preocupaciones sobre los peligros de la inteligencia artificial (IA).

“Tenemos que tener cuidado aquí”, dijo Altman, de 37 años. ABC News la semana pasada, y agregó: "Creo que la gente debería estar feliz de que estemos un poco asustados por esto".

"Estoy particularmente preocupado de que estos modelos puedan usarse para desinformación a gran escala... Ahora que están mejorando en la escritura de códigos de computadora, [ellos] podrían usarse para ataques cibernéticos ofensivos".

Dicho esto, Altman también cree que podría ser "la mayor tecnología que la humanidad haya desarrollado hasta ahora".

OpenAI es la empresa detrás de Chat GPT, que lanzó "GPT-4" hace menos de dos semanas. El chatbot altamente sofisticado puede alcanzar puntajes casi perfectos en las pruebas de matemáticas SAT, y lograr un 90% en el examen de la barra de EE. UU.

Y tiene competidores...

Otras nuevas empresas basadas en IA también están logrando avances sorprendentes en el campo. IA RAD lanzó recientemente la primera plataforma de marketing de IA creada para comprender las emociones, y algunas de las empresas más grandes del planeta ya la están utilizando.

GénesisAI es una startup que construye un mercado para permitir que cualquier empresa integre la IA y la automatización en su negocio. Lo que significa que pronto la IA podría ser una parte tan integral de una empresa como los propios empleados. –Benzinga

De acuerdo con Altman, sin embargo, ChatGPT-4 usa razonamiento deductivo vs. memorización, que puede conducir a resultados inexactos.

"Lo que más trato de advertir a la gente es lo que llamamos el 'problema de las alucinaciones'", dijo Altman. ABC News. “El modelo afirmará con confianza las cosas como si fueran hechos (pero) están completamente inventados”.

altman piensa hay una necesidad de regulación de la IA en general.

“Habrá otras personas que no pongan algunos de los límites de seguridad que ponemos nosotros”, dijo. “Creo que la sociedad tiene una cantidad limitada de tiempo para descubrir cómo reaccionar ante eso, cómo regularlo, cómo manejarlo”.

También está preocupado por GPT-4 y AI similar Fang Bingxing, el padre del llamado Gran Cortafuegos de China.

Según Fang, tales chatbots pueden conducir a un "capullo de información" (¿a diferencia del libre flujo de información en China?)

“Las perspectivas de las personas pueden manipularse mientras buscan todo tipo de respuestas de la IA”, dijo a Red Star News, un medio afiliado al Chengdu Economic Daily, respaldado por el estado, según lo informado por SCMP.

Fang, científico informático y exfuncionario del gobierno, es ampliamente considerado como el principal diseñador del notorio sistema de vigilancia y censura de Internet de China. Desempeñó un papel clave en la creación y el desarrollo del Gran Cortafuegos, un sofisticado sistema de filtros y bloqueos de Internet que permite al gobierno chino controlar a qué pueden acceder sus ciudadanos en línea.

El Gran Cortafuegos se ha fortalecido durante la última década, bloqueando el acceso de los internautas chinos a una amplia gama de sitios web y servicios en línea extranjeros, incluidos Facebook, Twitter y Google. -SCMP

Fang también advirtió que cuando la IA evolucione más, podría representar una amenaza para la humanidad.

“Ahora es simplemente un software utilizado en un escenario similar a un chat en línea. Si se incorpora a robots y automóviles, debemos estar atentos al daño potencial que podrían causar a los humanos”.

Lea la historia completa aquí ...