Un estudiante universitario creó una aplicación que puede saber si AI escribió un ensayo

Date:


Tian dijo que muchos maestros se acercaron a él después de que lanzó su bot en línea el 2 de enero, contándole los resultados positivos que han visto al probarlo.

Más de 30.000 personas probaron GPTZero una semana después de su lanzamiento. Fue tan in style que la aplicación se bloqueó. Streamlit, la plataforma gratuita que aloja GPTZero, ha intervenido desde entonces para admitir a Tian con más memoria y recursos para manejar el tráfico net.

Cómo funciona GPTZero

Para determinar si un extracto está escrito por un bot, GPTZero utiliza dos indicadores: “perplejidad” y “explosión”. La perplejidad mide la complejidad del texto; si GPTZero está perplejo por el texto, entonces tiene una gran complejidad y es más possible que esté escrito por humanos. Sin embargo, si el texto es más acquainted para el bot, porque ha sido entrenado con dichos datos, entonces tendrá una complejidad baja y, por lo tanto, es más possible que sea generado por IA.

Por separado, la ráfaga compara las variaciones de las oraciones. Los humanos tienden a escribir con mayor rapidez, por ejemplo, con algunas oraciones más largas o complejas junto con otras más cortas. Las oraciones de AI tienden a ser más uniformes.

En un video de demostración, Tian comparó el análisis de la aplicación de una historia en El neoyorquino y una publicación de LinkedIn escrita por ChatGPT. Distinguió con éxito la escritura de un humano frente a la IA.

Tian reconoció que su bot no es infalible, como han informado algunos usuarios al ponerlo a prueba. Dijo que todavía está trabajando para mejorar la precisión del modelo.

Pero al diseñar una aplicación que arroja algo de luz sobre lo que separa a los humanos de la IA, la herramienta ayuda a trabajar hacia una misión central para Tian: brindar transparencia a la IA.

“Durante mucho tiempo, la IA ha sido una caja negra en la que realmente no sabemos qué sucede dentro”, dijo. “Y con GPTZero, quería comenzar a retroceder y luchar contra eso”.

La búsqueda para frenar el plagio de la IA

El estudiante de último año de la universidad no está solo en la carrera para frenar el plagio y la falsificación de IA. OpenAI, el desarrollador de ChatGPT, se ha comprometido a prevenir el plagio de IA y otras aplicaciones nefastas. El mes pasado, Scott Aaronson, un investigador que actualmente se enfoca en la seguridad de la IA en OpenAI, reveló que la compañía ha estado trabajando en una forma de “marca de agua” Texto generado por GPT con una “señal secreta imperceptible” para identificar su fuente.

La comunidad de IA de código abierto Hugging Face ha sacado una herramienta para detectar si el texto fue creado por GPT-2, una versión anterior del modelo de IA utilizado para hacer ChatGPT. Un profesor de filosofía en Carolina del Sur que conocía la herramienta. dijo que lo usó para atrapar a un estudiante que envía un trabajo escrito por AI.

El departamento de educación de la ciudad de Nueva York dijo el jueves que está bloqueando el acceso a ChatGPT en las redes y dispositivos escolares por preocupaciones sobre sus “impactos negativos en el aprendizaje de los estudiantes y preocupaciones sobre la seguridad y precisión del contenido”.

Tian no se opone al uso de herramientas de IA como ChatGPT.

GPTZero “no pretende ser una herramienta para detener el uso de estas tecnologías”, dijo. “Pero con cualquier tecnología nueva, debemos poder adoptarla de manera responsable y debemos tener salvaguardas”.

Derechos de autor 2023 NPR. Para ver más, visita



Source link

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Share post:

Subscribe

spot_imgspot_img

Popular

More like this
Related

Título IX, Identidade de Gênero e as Consequências da Equidade

No meu último dia de visitor running a...

4 ultrajes que a esquerda não nos permite falar

Existem quatro grandes questões enfrentadas por todos os...

Ronna McDaniel ganha quarto mandato como presidente do RNC

“O Comitê Nacional Republicano votou na sexta-feira para...