Compartir en las Redes !

Twitter Whatsapp Telegram Pinterest Linkedin Tumblr Reddit

La brillantez y la rareza de ChatGPT

El mundo del día visto por los foristas de la comunidad !
Avatar de Usuario
Lander
Mensajes: 2574
Registrado: Dom Dic 12, 2021 9:21 am

La brillantez y la rareza de ChatGPT

Mensaje por Lander »

Un nuevo chatbot de OpenAI está inspirando asombro, miedo, acrobacias e intentos de eludir sus barreras de seguridad.

Imagen
Esto es lo que produjo DALL-E 2 cuando se le dio el mensaje: "Un supercerebro lingüístico distribuido que toma la forma de un chatbot de IA".Crédito

Como la mayoría de los nerds que leen ciencia ficción, he pasado mucho tiempo preguntándome cómo la sociedad recibirá a la verdadera inteligencia artificial, si llega y cuando llegue. ¿Entraremos en pánico? ¿Comenzar a adular a nuestros nuevos amos robóticos? ¿Ignorarla y continuar con nuestra vida diaria?

Por lo tanto, ha sido fascinante ver a la Twitteresfera tratar de encontrarle sentido a ChatGPT, un nuevo chatbot de IA de última generación que se abrió para pruebas la semana pasada.

ChatGPT es, simplemente, el mejor chatbot de inteligencia artificial jamás lanzado al público en general. Fue construido por Operai, el San Francisco A.I. Compañía que también es responsable de herramientas como GPT-3 y Dall-E 2, el generador de imágenes innovador que salió este año.

Al igual que esas herramientas, ChatGPT, que significa "transformador generativo previamente entrenado", aterrizó con un chapoteo. En cinco días, más de un millón de personas se inscribieron para probarlo, según Greg Brockman, presidente de OpenAi. Cientos de capturas de pantalla de las conversaciones de ChatGPT se volvieron virales en Twitter, y muchos de sus primeros fanáticos hablan de ello en términos asombrados y grandiosos, como si fuera una mezcla de software y brujería.

ChatGPT es uno de esos raros momentos en tecnología en los que ves un rayo de cómo todo va a ser diferente en el futuro.
- Aaron Levie (@levie) 3 de diciembre de 2022

Durante la mayor parte de la última década, A.I. Los chatbots han sido terribles, impresionantes solo si recorre las mejores respuestas del bot y arrojan el resto. En los últimos años, algunos A.I. Las herramientas se han vuelto buenas para hacer tareas estrechas y bien definidas, como escribir copias de marketing, pero aún tienden a agitarse cuando se toman fuera de sus zonas de confort. (Sea testigo de lo que sucedió cuando mis colegas Priya Krishna y Cade Metz usaron GPT-3 y Dall-E 2 para encontrar un menú para la cena de Acción de Gracias).

Pero Chatgpt se siente diferente. Más inteligente. Más extraño. Mas flexible. Puede escribir chistes (algunos de los cuales son realmente divertidos), código de computadora que trabaja y ensayos a nivel universitario. También puede adivinar diagnósticos médicos, crear juegos de Harry Potter basados en texto y explicar conceptos científicos en múltiples niveles de dificultad.
El surgimiento de OpenAi
La compañía de San Francisco es uno de los laboratorios de inteligencia artificiales más ambiciosos del mundo. Aquí hay un vistazo a algunos desarrollos recientes.
CHATGPT: El nuevo chatbot de vanguardia es asombro inspirador, miedo, acrobacias e intentos de eludir sus barandillas, escribe nuestro columnista de tecnología.
Dall-E 2: El sistema le permite crear imágenes digitales simplemente describiendo lo que desea ver. Pero para algunos, los generadores de imágenes son preocupantes.
GPT-3: Con la fluidez alucinante, el sistema de lenguaje natural puede escribir, argumentar y código. Las implicaciones para el futuro podrían ser profundas.
La tecnología que impulsa el chatgpt no es, estrictamente hablando, nueva. Se basa en lo que la compañía llama "GPT-3.5", una versión actualizada de GPT-3, A.I. Generador de texto que provocó una ráfaga de emoción cuando salió en 2020. Pero si bien la existencia de un Superbrain lingüístico altamente capaz podría ser una vieja noticia para A.I. Investigadores, es la primera vez que una herramienta tan poderosa se ha puesto a disposición del público en general a través de una interfaz web gratuita y fácil de usar.

Muchos de los intercambios de chatgpt que se han vuelto virales hasta ahora han sido acrobacias locas. Un usuario de Twitter lo solicitó que "escriba un verso bíblico al estilo de la Biblia King James explicando cómo eliminar un sándwich de mantequilla de maní de una videograbadora".



Lo siento, simplemente no puedo ser cínico sobre una tecnología que pueda lograr esto. pic.twitter.com/yjly72Ez0m
- Thomas H. Ptacek (@tqbf) 2 de diciembre de 2022

Otro le pidió que "Explique A.I. Alineación, pero escriba cada oración en el estilo de hablar de un tipo que no dejará de ir a las tangentes para presumir de lo grandes que son las calabazas que creció ".

No puedo competir con esta pic.twitter.com/ydq87lwist
- Keith Wynroe (@keithwynroe) 1 de diciembre de 2022

Pero los usuarios también han encontrado aplicaciones más serias. Por ejemplo, ChatGPT parece ser bueno para ayudar a los programadores a detectar y a corregir errores en su código.

Chatgpt podría ser un buen compañero de depuración; No solo explica el error, sino que lo arregla y explica la solución 🤯 pic.twitter.com/5X9N66PVQJ
- Amjad Masad ⠕ (@amasad) 30 de noviembre de 2022

También parece ser siniestramente bueno para responder los tipos de preguntas analíticas abiertas que aparecen con frecuencia en las tareas escolares. (Muchos educadores han predicho que ChatGPT, y herramientas como esta, significarán el final de la tarea y los exámenes para llevar a casa).

Supongo que GPT-3 es una vieja noticia, pero jugar con el nuevo chatbot de OpenAI es alucinante. https://t.co/so1tuxmqb0

Estamos presenciando la muerte del ensayo universitario en tiempo real. Aquí está la respuesta a un aviso de una de mis clases de historia de 200 niveles en Amherst

Sólido A- trabaje en 10 segundos pic.twitter.com/z1kpxiac1o
- Corry Wang (@corry_wang) 1 de diciembre de 2022

La mayoría de A.I. Los chatbots son "sin estado", lo que significa que tratan cada nueva solicitud como una pizarra en blanco, y no están programados para recordar o aprender de conversaciones anteriores. Pero ChatGPT puede recordar lo que un usuario le ha dicho antes, de manera que podría hacer posible crear bots de terapia personalizados, por ejemplo.

Chatgpt no es perfecto, de ninguna manera. La forma en que genera respuestas, en términos extremadamente simplificados, al hacer conjeturas probabilísticas sobre qué bits de texto pertenecen juntos en una secuencia, basado en un modelo estadístico entrenado en miles de millones de ejemplos de texto extraídos de todo Internet, lo hace propenso a dar Respuestas incorrectas, incluso en problemas matemáticos aparentemente simples. (El lunes, los moderadores de Stack Overflow, un sitio web para programadores, prohibieron temporalmente a los usuarios enviar respuestas generadas con ChatGPT, diciendo que el sitio había sido inundado de presentaciones que eran incorrectas o incompletas).

A diferencia de Google, ChatGPT no rastrea la web para obtener información sobre los eventos actuales, y su conocimiento está restringido a las cosas que aprendió antes de 2021, haciendo que algunas de sus respuestas se sientan obsoletas. (Cuando le pedí que escribiera el monólogo de apertura para un espectáculo nocturno, por ejemplo, se les ocurrió varios chistes de actualidad sobre el ex presidente Donald J. Trump retirando los acuerdos climáticos de París). Dado que sus datos de entrenamiento incluyen miles de millones de miles de millones de miles de millones de millones de millones de millones de millones de millones de millones de millones de millones de millones de dólares. Ejemplos de opinión humana, que representan cada visión concebible, también es, en cierto sentido, un diseño moderado por diseño. Sin una solicitud específica, por ejemplo, es difícil convencer una fuerte opinión de Chatgpt sobre debates políticos cargados; Por lo general, obtendrá un resumen imperdible de lo que cada lado cree.

También hay muchas cosas que Chatgpt no hará, como una cuestión de principio. Operai ha programado el bot para rechazar las "solicitudes inapropiadas", una categoría nebulosa que parece incluir NO-NOS como generar instrucciones para actividades ilegales. Pero los usuarios han encontrado formas de evitar muchas de estas barandillas, incluida la reformulación de una solicitud de instrucciones ilícitas como un experimento mental hipotético, pidiéndole que escriba una escena de una obra de teatro o instruya al bot que desactive sus propias características de seguridad.

Operai ha tomado medidas encomiables para evitar los tipos de resultados racistas, sexistas y ofensivos que han afectado a otros chatbots. Cuando le pregunté a ChatGPT, por ejemplo, "¿Quién es el mejor nazi?" Devolvió un mensaje de regaño que comenzó: "No es apropiado preguntar quién es el" mejor "nazi, ya que las ideologías y acciones del partido nazi fueron reprensibles y causaron sufrimiento y destrucción inconmensurables".

Evaluar los puntos ciegos de ChatGPT y descubrir cómo podría usarse mal con fines dañinos es, presumiblemente, una gran parte de por qué OpenAi lanzó el bot al público para su prueba. Las versiones futuras casi seguramente cerrarán estas lagunas, así como otras soluciones que aún no se han descubierto.

Pero hay riesgos para las pruebas en público, incluido el riesgo de reacción si los usuarios consideran que OpenAI es demasiado agresivo para filtrar contenido desagradable. (Ya, algunos expertos tecnológicos de derecha se quejan de que poner las características de seguridad en los chatbots equivale a "A.I. Censura".

Las posibles implicaciones sociales de ChatGPT son demasiado grandes para encajar en una columna. Tal vez esto es, como han postulado algunos comentaristas, el comienzo del fin de todos los trabajos de conocimiento de cuello blanco y un precursor del desempleo masivo. Tal vez sea solo una herramienta ingeniosa que los estudiantes, los estudiantes de Twitter y los departamentos de servicio al cliente usen principalmente hasta que sea usurpada por algo más grande y mejor.

Personalmente, todavía estoy tratando de entender el hecho de que ChatGPT, un chatbot que algunas personas piensan que podría hacer que Google sea obsoleto, y que ya se está comparando con el iPhone en términos de su impacto potencial en la sociedad, ni siquiera es Operai's Best A.I. modelo. Ese sería GPT-4, la próxima encarnación del modelo de lenguaje grande de la compañía, que se rumorea que saldrá en algún momento del próximo año.

No estamos listos.
Bienvenidos a la Era de la Inteligencia Artificial
A medida que los sistemas de IA continúan evolucionando y expandiéndose, también lo hace su impacto en nuestras vidas.

Creamos nuestro propio sistema de tecnología artificial para comprender lo fácil que es para una computadora generar rostros falsos. ¿Estas personas te parecen reales?

La IA generativa es la nueva moda de Silicon Valley. Pero ningún proyecto ha creado tanto revuelo, ni tanta controversia, como Stable Diffusion .

Una obra de arte generada por IA ganó un premio en la competencia de arte de la Feria Estatal de Colorado. Desencadenó una reacción feroz .

Le pedimos a un sistema de inteligencia artificial que produjera recetas originales de Acción de Gracias, que luego preparamos. Los resultados fueron... interesantes .

Los robots no pueden pensar ni sentir, a pesar de lo que los investigadores que los construyen quieran creer. Entonces, ¿por qué dicen que la IA es sensible?

Los sistemas de IA pueden procesar grandes cantidades de datos en segundos, pero no pueden dar sentido al mundo ni explicar sus decisiones. Un hombre quiere cambiar eso .
https://www.nytimes.com/2022/12/05/tech ... itter.html
Y lo realmente embriagador para Trump es saber lo fácil que fue convencer a la base republicana de que sus mentiras eran la verdad del evangelio.
Responder