digesta
Just signalNo noise

← Volver al feed

Anthropic otorga a la evaluadora externa METR acceso a nivel de empleado a sus modelos

–

Resumen neutral

Anthropic anunció que otorga a la organización sin fines de lucro Model Evaluation and Threat Research (METR) acceso a nivel de empleado a sus modelos y sistemas internos. METR recibirá terminales, espacio de oficina y acceso a los sistemas internos, además de publicar sus propias evaluaciones de los riesgos, incidentes y prácticas de Anthropic; la empresa ha renunciado a su derecho a bloquear estas publicaciones, conservando únicamente la capacidad de solicitar redacciones. El CEO Dario Amodei ha hecho de la incorporación de evaluadores externos una de sus principales propuestas para abordar las preocupaciones de seguridad. La empresa también está en conversaciones iniciales con otras organizaciones, incluida Hugging Face, y según informa ITmedia, OpenAI está preparando un programa similar de evaluación externa. Elon Musk dijo que SpaceX "probablemente hará lo mismo". Las preocupaciones de seguridad sobre el chatbot Claude han sido planteadas repetidamente en los últimos tiempos.

Cómo lo contaron

Medios: 9. Países: 5. Hechos del núcleo común: 1.

Cronología de publicación

  1. · Channel NewsAsia (ficha del medio)

    Anthropic grants AI evaluator METR employee-level access to its models

  2. · Channel NewsAsia (ficha del medio)

    Anthropic grants outside evaluator METR employee-level access in AI safety push

  3. · Business Insider (ficha del medio)

    Anthropic just opened its doors to outside safety watchdogs. Here's how it will work.. Anthropic is opening its doors to independent AI safety evaluators from METR, the first time a frontier AI company has done so.

  4. · Financial Times (ficha del medio)

    Anthropic grants non-profit METR ‘employee-like’ access to monitor AI risks. CEO Dario Amodei has made bringing in external evaluators one of his main proposals to address safety concerns

  5. · TechCrunch (ficha del medio)

    Anthropic is letting METR researchers look under the hood with employee-level access. METR will publish its own assessments of Anthropic’s risks, incidents, and practices, and the frontier AI model maker has given up th…

  6. · CNBC (ficha del medio)

    Anthropic taps nonprofits METR and SecureBio to help assess risks and safety practices. The company is also engaged in early-stage discussions with other organizations, including Hugging Face.

  7. · ITmedia (ficha del medio)

    Anthropic、METRの評価チームを社内に常駐させ“従業員並み”のアクセス付与 公表に拒否権なし. Anthropicは、AI評価団体METRに従業員並みのアクセス権を与える常駐評価を開始した。端末やオフィスを提供して社内システムへのアクセスを認め、リスクや障害の独自公表を許可する。公表拒否はできず、伏せ字要請のみ可能。OpenAIも同様の外部評価機関受け入れを準備している。

  8. · Handelsblatt (ficha del medio)

    Künstliche Intelligenz: Sicherheitsbedenken: Anthropic lässt externe Prüfer zu. Der KI-Entwickler hat am Donnerstag mitgeteilt, dem gemeinnützigen Unternehmen „Model Evaluation and Threat Research“ (METR) Zugang auf Mit…

  9. · The Decoder (ficha del medio)

    Anthropic gives METR inside access to audit its AI models and safety practices. Anthropic has given a team from the nonprofit METR inside access to review its AI models and safety practices, the company announced. The a…

  10. · The Independent (ficha del medio)

    Anthropic will let outsiders see inside its company amid panic about rogue AI systems. Elon Musk says that SpaceX will ‘probably do the same’ as calls grow for better transparency

Núcleo factual

  • Anthropic gave a team from the nonprofit METR inside access to audit its AI models and safety practices.

Metodología completa →

Otros temas del día