Los temores del creador de ChatGPT

En los últimos meses, la IA generativa ha acaparado la atención del mundo y el lanzamiento de GPT-4 ha aumentado el interés en este tipo de tecnología. Aunque muchos se preguntan si son seguros y si pueden representar algún tipo de peligro en el futuro. Incluso el CEO de OpenAI, Sam Altman, ha expresado sus temores en una entrevista con ABC News.

El principal temor de Sam Altman es que se utilice GPT-4 para desinformar a gran escala. El CEO explicó que el principal problema de la inteligencia artificial es que utiliza razonamiento deductivo para predecir la próxima palabra en lugar de un sistema de memorización. Esto puede llevar a que la IA afirme cosas que son inventadas, como si fueran hechos. En otras palabras, la IA puede tener "alucinaciones" y generar información falsa.

El otro gran temor de Sam Altman es que GPT-4 se utilice como aliado en ciberataques. Altman explicó que los modelos de lenguaje se están volviendo mejores para escribir código y podrían ser utilizados en ataques informáticos ofensivos. Por lo tanto, es necesario implementar medidas de seguridad irrevocables para evitar su mal uso.

La implementación de medidas de seguridad será crucial para evitar los malos usos de GPT-4, así como de sus sucesores. Sin embargo, Sam Altman expresó su preocupación ante la posibilidad de que otros desarrolladores estén menos interesados en adoptar ese compromiso. Por lo tanto, es importante que se establezcan regulaciones para la IA para proteger a la sociedad.

En cuanto a la regulación de la IA, Sam Altman manifestó que el éxito de herramientas como ChatGPT depende tanto del involucramiento de la sociedad como de los reguladores. La sociedad tiene una cantidad limitada de tiempo para descubrir cómo reaccionar ante esto, cómo regularlo y cómo manejarlo.

Aunque el CEO de OpenAI tiene preocupaciones sobre los posibles riesgos de la IA, él cree que es importante permitir el acceso al público general a través de ChatGPT. Esto permitirá que la gente se acostumbre a esta tecnología y comprenda sus posibles desventajas y mitigaciones.

En resumen, Sam Altman tiene preocupaciones legítimas sobre el mal uso de la IA generativa, especialmente en cuanto a la desinformación a gran escala y los ciberataques. Es importante implementar medidas de seguridad irrevocables y establecer regulaciones para proteger a la sociedad. Sin embargo, Altman cree que permitir el acceso al público general a través de herramientas como ChatGPT es esencial para que la gente comprenda la tecnología y sus posibles riesgos.