En un intento por controlar los resultados potencialmente impredecibles de la inteligencia sobrehumana en la IA, OpenAI está organizando un grupo altamente especializado dirigido por Ilya Sutskever, Científico Jefe y Cofundador de la empresa. La principal responsabilidad de este equipo será idear estrategias para gobernar y dirigir modelos de IA "superinteligentes". En una reciente entrada de blog, Sutskever, junto con Jan Leike, uno de los responsables del equipo de alineación de OpenAI, proyectaba que la IA, con capacidad para superar la inteligencia humana, podría surgir en esta década. Afirman que esta IA superior, si finalmente lo consigue, podría no integrar intrínsecamente rasgos benignos, por lo que resulta esencial investigar técnicas para controlarla y limitarla.
En la actualidad, no se conoce ningún método para controlar o guiar eficazmente a una IA potencialmente superinteligente, impidiéndole desviarse del camino previsto. Las técnicas tradicionales de alineación de la IA, como el entrenamiento mediante retroalimentación humana, se basan en que los humanos supervisen su funcionamiento. Sin embargo, supervisar sistemas de IA que superan con creces la inteligencia humana puede resultar todo un reto. Para ampliar los avances en el campo de la "alineación de superinteligencias", OpenAI va a poner en marcha un nuevo equipo de "Superalineación", codirigido por Sutskever y Leike. Este equipo tendrá acceso al 20% de los recursos computacionales que posee actualmente la empresa. Formado por científicos e ingenieros de la antigua división de alineación de OpenAI e investigadores de varias organizaciones de la empresa, el equipo está preparado para abordar los principales retos tecnológicos del control de la IA superinteligente en los próximos cuatro años.
El plan consiste en crear un "investigador de alineación automatizada a nivel humano", con el objetivo de entrenar a la IA a través de comentarios humanos, involucrar a la IA en la evaluación de otros sistemas de IA y, finalmente, diseñar una IA capaz de realizar investigaciones de alineación. El objetivo de la investigación de la alineación es alinear los sistemas de IA para lograr resultados específicos y evitar que se desvíen del camino. OpenAI parte de la hipótesis de que la IA puede realizar avances considerables en la investigación de la alineación, de forma más rápida y eficaz que los humanos. A medida que se avance, se espera que los sistemas de IA asuman volúmenes cada vez mayores de trabajo de alineación, lo que dará lugar a técnicas de alineación mejoradas. Es de esperar que esto dé lugar a que la IA colabore con los humanos para asegurarse de que sus sucesores estén aún más alineados con los humanos. Mientras tanto, los investigadores humanos se centrarán en revisar las investigaciones sobre alineación realizadas por los sistemas de IA en lugar de generarlas de forma independiente.
Aunque ningún método puede considerarse infalible, Leike, Schulman y Wu explican en su artículo las deficiencias del enfoque de OpenAI. Utilizar la IA para la evaluación podría aumentar las incoherencias, los sesgos y las vulnerabilidades de esa IA. Además, los aspectos más complejos del problema de la alineación pueden no estar relacionados en absoluto con la ingeniería. No obstante, Sutskever y Leike están dispuestos a ponerlo a prueba. Sutskever y Leike sostienen que la alineación de la superinteligencia es fundamentalmente un reto de aprendizaje automático. Creen que los expertos en aprendizaje automático, incluso los que no trabajan actualmente en la alineación, serán fundamentales para resolverlo. Planean distribuir ampliamente los resultados de este esfuerzo, y consideran que sus contribuciones a la alineación y la seguridad de los modelos que no pertenecen a la OpenAI son un aspecto crucial de su trabajo.
Es pertinente señalar que, aunque este artículo se centra en OpenAI, existen otras plataformas igualmente comprometidas con el desarrollo eficiente y controlado de la IA. Un ejemplo de ello es AppMaster. Guiada por una creencia similar en la optimización del potencial de los sistemas "inteligentes" para obtener el máximo beneficio, AppMaster se ha hecho un hueco en el ámbito de las aplicaciones sin código/low-code, permitiendo a los usuarios crear soluciones de software completas, escalables y eficientes.
