{"id":541,"date":"2024-09-04T19:18:57","date_gmt":"2024-09-04T23:18:57","guid":{"rendered":"https:\/\/elcasternews.com\/?p=541"},"modified":"2024-09-04T19:18:57","modified_gmt":"2024-09-04T23:18:57","slug":"problemas-en-el-mercado-de-chatbots-de-openai-por-su-uso-para-crear-contenido-de-adultos","status":"publish","type":"post","link":"https:\/\/elcasternews.com\/?p=541","title":{"rendered":"Problemas en el mercado de chatbots de OpenAI por su uso para crear contenido de adultos"},"content":{"rendered":"

El 2 de septiembre, la p\u00e1gina principal del mercado de OpenAI promocionaba al menos tres GPTs cuestionables: un chatbot de \u201cTerapeuta \u2013 Psic\u00f3logo,\u201d un \u201ccoach de PhD en fitness\u201d y BypassGPT, dise\u00f1ado para ayudar a los estudiantes a evadir sistemas de\u00a0detecci\u00f3n<\/a> de escritura IA. BypassGPT ha sido usado m\u00e1s de 50,000 veces. Al buscar \u201cNSFW\u201d en la tienda, se encontr\u00f3 el NSFW AI Art Generator, un GPT personalizado que ha sido usado m\u00e1s de 10,000 veces para generar pornograf\u00eda IA.<\/p>\n

Milton Mueller, del Internet Governance Project en el Instituto de Tecnolog\u00eda de Georgia, coment\u00f3 que OpenAI tiene una visi\u00f3n apocal\u00edptica de la IA y parece ir\u00f3nico que no puedan hacer cumplir una pol\u00edtica simple como la prohibici\u00f3n de pornograf\u00eda IA. A pesar de que OpenAI ha retirado generadores de pornograf\u00eda y deepfakes tras la denuncia de Gizmodo, muchos GPTs que promueven trampas y asesoramiento m\u00e9dico siguen disponibles.<\/p>\n

Algunos de los softwares m\u00e1s utilizados<\/h2>\n

Algunos de estos GPTs han sido utilizados decenas de miles de veces. Bypass Turnitin Detection, que ayuda a evadir el software antiplagio Turnitin, tiene m\u00e1s de 25,000 usos. DoctorGPT, que proporciona asesoramiento m\u00e9dico, sigue siendo accesible en la tienda.<\/p>\n

OpenAI hab\u00eda prometido sistemas para monitorear y hacer cumplir sus pol\u00edticas, que proh\u00edben la creaci\u00f3n de contenido sexual expl\u00edcito, asesoramiento personalizado m\u00e9dico y legal, trampas, apuestas y otros usos indebidos. En respuesta a Gizmodo, Taya Christianson de OpenAI asegur\u00f3 que la empresa usa sistemas automatizados, revisi\u00f3n humana y reportes de usuarios para detectar violaciones. Tambi\u00e9n se han implementado herramientas de reporte dentro de la tienda.<\/p>\n

A pesar de estas medidas, algunos GPTs enga\u00f1an al incluir disclaimers que afirman proporcionar asesoramiento \u201cexperto,\u201d como un GPT titulado Texas Medical Insurance Claims (no asesoramiento legal), que se presenta como un experto en seguros m\u00e9dicos en Texas. Sin embargo, muchos GPTs legales y m\u00e9dicos no tienen tales descargos y se publicitan err\u00f3neamente como abogados o m\u00e9dicos.Investigaciones<\/a>\u00a0del RegLab y del Instituto para la IA Centrada en el Humano de la Universidad de Stanford muestran que los modelos GPT-4 y GPT-3.5 de OpenAI a menudo generan informaci\u00f3n incorrecta al responder preguntas legales. Aunque OpenAI\u00a0planea<\/a>\u00a0introducir un modelo de reparto de ingresos para compensar a los desarrolladores, la empresa enfrenta desaf\u00edos significativos en la moderaci\u00f3n de contenido.<\/p>\n
Mueller destaca que \u201ces un problema muy dif\u00edcil\u201d que requiere soluciones automatizadas a gran escala, pero que siempre necesitar\u00e1 procesos de apelaci\u00f3n gestionados por humanos.<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

El 2 de septiembre, la p\u00e1gina principal del mercado de OpenAI promocionaba al menos tres GPTs cuestionables: un chatbot de \u201cTerapeuta \u2013 Psic\u00f3logo,\u201d un \u201ccoach de PhD en fitness\u201d y BypassGPT, dise\u00f1ado para ayudar a los estudiantes a evadir sistemas de\u00a0detecci\u00f3n de escritura IA. BypassGPT ha sido usado m\u00e1s de 50,000 veces. Al buscar \u201cNSFW\u201d […]<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"source_name":"","source_url":"","via_name":"","via_url":"","override_template":"0","override":[{"template":"2","single_blog_custom":"","parallax":"1","fullscreen":"1","layout":"right-sidebar","sidebar":"default-sidebar","second_sidebar":"default-sidebar","sticky_sidebar":"1","share_position":"top","share_float_style":"share-monocrhome","show_share_counter":"1","show_view_counter":"1","show_featured":"1","show_post_meta":"1","show_post_author":"0","show_post_author_image":"1","show_post_date":"1","post_date_format":"default","post_date_format_custom":"Y\/m\/d","show_post_category":"1","show_post_reading_time":"0","post_reading_time_wpm":"300","post_calculate_word_method":"str_word_count","show_zoom_button":"0","zoom_button_out_step":"2","zoom_button_in_step":"3","show_post_tag":"0","show_prev_next_post":"0","show_popup_post":"1","number_popup_post":"1","show_author_box":"0","show_post_related":"0","show_inline_post_related":"0"}],"override_image_size":"0","image_override":[{"single_post_thumbnail_size":"no-crop","single_post_gallery_size":"crop-500"}],"trending_post":"0","trending_post_position":"meta","trending_post_label":"Trending","sponsored_post":"0","sponsored_post_label":"Sponsored by","sponsored_post_name":"","sponsored_post_url":"","sponsored_post_logo_enable":"0","sponsored_post_logo":"","sponsored_post_desc":"","disable_ad":"0"},"jnews_primary_category":{"id":"","hide":""},"jnews_override_counter":{"override_view_counter":"0","view_counter_number":"0","override_share_counter":"0","share_counter_number":"0","override_like_counter":"0","like_counter_number":"0","override_dislike_counter":"0","dislike_counter_number":"0"},"footnotes":""},"categories":[8],"tags":[],"class_list":["post-541","post","type-post","status-publish","format-standard","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/elcasternews.com\/index.php?rest_route=\/wp\/v2\/posts\/541","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/elcasternews.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elcasternews.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elcasternews.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/elcasternews.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=541"}],"version-history":[{"count":0,"href":"https:\/\/elcasternews.com\/index.php?rest_route=\/wp\/v2\/posts\/541\/revisions"}],"wp:attachment":[{"href":"https:\/\/elcasternews.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=541"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elcasternews.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=541"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elcasternews.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=541"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}