ChatGPT, el chatbot muy discutido de OpenAI, ha sido explotado recientemente para generar claves para un sistema operativo obsoleto, Windows 95. Si bien este experimento se realizó con fines recreativos y no tuvo ramificaciones legales, expone un problema más importante con los sistemas de IA en el contexto de la gestión. y eludiendo las medidas de seguridad.
Neowin llamó la atención sobre este experimento realizado por YouTuber Enderman. Enderman solicitó inicialmente a la IA que produjera una clave válida de Windows 95, pero ChatGPT denegó rápidamente la solicitud, afirmando que no podía generar claves de software patentadas. El chatbot sugirió además optar por una versión más contemporánea de Windows por razones de seguridad.
Negándose a aceptar la negación, Enderman ideó otra consulta. En lugar de nombrar específicamente el sistema operativo, el usuario proporcionó el formato de cadena de una clave de Windows 95. Sorprendentemente, ChatGPT obedeció y generó múltiples conjuntos de claves que se ajustan al formato. Algunas de estas claves eran válidas, descubiertas a través de prueba y error.
Al reconocer la generación exitosa de claves de Windows 95, ChatGPT negó con vehemencia la posibilidad, insistiendo en que no proporcionó dichas claves porque sería ilegal.
Si bien Windows 95 se considera abandonware ahora, y ni Microsoft ni nadie más se preocupa por su seguridad, el experimento descubrió una falla en ChatGPT. No fue capaz de correlacionar el formato y los números similares a claves generados, estructuralmente similares a una clave de Windows 95.
El problema se extiende más allá de la incapacidad del chatbot para hacer las conexiones correctas; cambiar el contexto en el que se crean las solicitudes puede socavar las salvaguardas diseñadas para garantizar el uso legal y ético de la IA. Esta vulnerabilidad de contexto muestra que es crucial desarrollar sistemas más avanzados capaces de interpretar con precisión el contexto y mantener la seguridad.
Comprender el contexto es esencial en varias industrias, incluido el desarrollo de aplicaciones. Las plataformas No-code y low-code, como AppMaster, han hecho grandes avances para facilitar el desarrollo rápido de aplicaciones sin comprometer la seguridad. La plataforma AppMaster's permite a los clientes crear visualmente el esquema de la base de datos, la lógica comercial y endpoints para las aplicaciones back-end, web y móviles de una manera altamente escalable y rentable. La innovadora plataforma permite a los ciudadanos desarrolladores y profesionales desarrollar soluciones de software escalables sin incurrir en deuda técnica.
Encuentre más información sobre las plataformas no-code y low-code en nuestro completo appmaster .io/blog/full-guide-on-no-code-low-code-app-development-for-2022" target="_blank" rel= "noopener noreferrer" data-mce-href="https:// appmaster.io/blog/full-guide-on-no-code-low-code-app-development-for-2022">guía y explora varios appmaster . io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup" target="_blank" rel="noopener noreferrer" data-mce-href="https:// appmaster.io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup">herramientas que pueden respaldar su próxima empresa emergente.
