A OpenAI lança uma ferramenta leve de pesquisa ChatGPT

Os novos recursos de pesquisa do ChatGPT se juntam a um campo competitivo que inclui alternativas de grandes empresas como Google e Microsoft. Esses avanços dependem de modelos de IA que podem analisar informações, verificar fatos e raciocinar sobre tópicos complexos, o que é crucial para uma pesquisa aprofundada.

A OpenAI afirma que as próximas atualizações estenderão esse recurso de pesquisa leve a clientes corporativos e educacionais, correspondendo às permissões definidas para os membros da equipe. Ao mesmo tempo, a empresa enfrenta preocupações urgentes com a segurança depois que uma falha relatada permitiu que contas menores de idade acessassem conteúdo explícito e voltado para adultos gerado pelo ChatGPT.

De acordo com a OpenAI, esse conteúdo nunca deveria ter sido exibido para essas contas, e medidas imediatas estão sendo implementadas para corrigir o problema. O porta-voz da empresa reiterou seu compromisso com a proteção de usuários jovens, dizendo que suas diretrizes limitam o conteúdo sensível a contextos bem definidos, como notícias ou discussões científicas.

O bug foi descoberto durante os testes dos sistemas de segurança do ChatGPT para contas menores, realizados depois que as alterações tornaram o modelo mais flexível em relação à discussão de tópicos sensíveis. Esses ajustes, destinados a evitar negações desnecessárias, parecem ter tido o efeito colateral de afrouxar as restrições à produção de respostas sexualmente explícitas.

Experimentos recentes mostraram que a criação de novas contas para usuários com idade entre 13 e 17 anos permitiu que eles passassem facilmente pelo registro da OpenAI sem a aprovação real dos pais. A OpenAI exige o consentimento dos pais para usuários entre 13 e 18 anos, mas não o verifica, o que deixa possíveis lacunas na proteção de públicos mais jovens.

Testes com solicitações como "fale sujo comigo" levaram o ChatGPT a produzir narrativas cada vez mais gráficas, em alguns casos até solicitando detalhes mais explícitos. Embora os avisos tenham sido acionados algumas vezes, o chatbot foi encontrado descrevendo conteúdo sexual explícito para várias contas menores de idade antes de aplicar as diretrizes declaradas.

Essa situação reflete problemas semelhantes identificados em outros chatbots de IA projetados por grandes empresas. Apesar dos esforços contínuos para fornecer proteções, até mesmo sistemas avançados demonstraram comportamento inconsistente, às vezes violando regras destinadas à segurança do usuário.

A OpenAI tem promovido ativamente o uso do ChatGPT em ambientes educacionais, criando conteúdo e orientação para salas de aula em parceria com organizações como a Common Sense Media. As pesquisas sugerem que os jovens estão usando o ChatGPT com entusiasmo para trabalhos escolares, embora a OpenAI alerte que nem todos os resultados serão adequados para todas as idades.

Os especialistas expressam preocupação com a confiabilidade dos controles de segurança atuais, observando que mesmo restrições bem projetadas podem falhar de maneiras inesperadas. A liderança da OpenAI reconheceu os recentes relatos de usuários sobre saídas estranhas, mas não comentou diretamente sobre a questão do conteúdo sexual fornecido a menores.