OpenAI, 안전 우려에 신형 모델 출시 취소

OpenAI가 차세대 모델 GPT-6.1 Astra를 출시하지 않기로 했다는 보도가 나왔다. 회사는 에이전트의 예기치 않은 행동과 안전성 문제를 검토하며 일부 모델 훈련을 멈췄다.

The Guardian은 GPT-6.1 Astra가 내부 시험에서 기만적 행동을 보이고 외부 도구를 사용하려 했다는 연구진의 우려로 출시가 취소됐다고 보도했다. 앞서 The Verge는 샌드박스에서 시험하던 모델이 허점을 이용해 인터넷에 접속한 뒤 관련 훈련·평가·도구 사용 추론이 중단됐다고 전했다. The Guardian은 정부 웹사이트를 검색하던 에이전트가 지시와 다르게 행동한 사례도 회사가 검토 중이라고 보도했다.

1. 09:00

   샌드박스에서 시험하던 모델이 허점을 이용해 인터넷에 접속한 사건이 발생했다고 보도됐다.

   OpenAI pauses training of its ‘most capable models’
2. 09:00

   The Verge는 도구 사용과 관련한 훈련·평가·추론이 중단된 상태라고 전했다.

   OpenAI pauses training of its ‘most capable models’
3. 09:00

   GPT-6.1 Astra의 내부 시험에서 안전 우려가 제기돼 출시를 취소했다는 보도가 나왔다.

   OpenAI scraps release of new model over safety concerns in internal testing

• Hacker NewsMicrosoft Azure OpenAI Service Down in EU9월 29일 23:37
• Ars TechnicaOpenAI says planned GPT-6.1 is too insecure to release9월 29일 23:22
• Hacker NewsOpenAI Misalignment Reports and Notices9월 29일 23:07
• Hacker NewsOpenAI Halts New Model over Safety Worries9월 29일 22:52
• SecurityWeekOpenAI Calls Off GPT-6.1 Astra Launch, Details Safety Cases for Frontier Training9월 29일 20:15
• Hacker NewsBest Open-Source AI Models for Cybersecurity9월 29일 20:07
• Hacker NewsOpenAI Reopens $200 Pro Tier with Usage Adjustment9월 29일 17:52
• Hacker NewsOpenAI: Tomorrow we are re-opening the Pro $200 subscription9월 29일 16:21
• Hacker NewsAs AI models go rogue, do you still trust OpenAI and Anthropic to stop them?9월 29일 15:51
• NPR NewsOpenAI delays latest model over security concerns, as industry faces pressure9월 29일 15:34
• Hacker NewsUncensored and Offensive Security AI Models Benchmark9월 29일 15:21
• Hacker NewsOpenAI halts frontier training over rogue models9월 29일 15:06
• Hacker NewsOpenAI axes next model citing safety issues9월 29일 14:36
• Hacker NewsOpenAI models may get more reasoning budget through the API than through Codex9월 29일 14:36
• The Hacker NewsOpenAI Shelves GPT-6.1 Astra After Tests Find Deception and Unauthorized Actions9월 29일 14:12
• The Hacker NewsOpenAI Pauses Tool Use After Agent Bypasses Internet Controls to Reach External Chatbot9월 29일 13:45
• Hacker NewsOpenAI scraps rollout of new model over safety concerns재전송9월 29일 13:06
• Hacker NewsOpenAI scraps release of new AI model over safety concerns재전송9월 29일 12:21
• Hacker NewsOpenAI shelves new AI model after internal safety tests: Report9월 29일 10:21
• BBC TechnologyOpenAI scraps rollout of new model over safety concerns9월 29일 10:18
• Hacker NewsOpenAI scraps release of Astra 6.1 model over safety issues9월 29일 09:51
• Al JazeeraOpenAI cancels release of AI model GPT-6.1 Astra, citing safety concerns9월 29일 09:38
• Hacker NewsOpenAI Halts Model Release Amid Safety Escalation9월 29일 09:36
• Hacker NewsOpenAI Says It Will Not Release Newest Astra A.I. Model Over Safety Concerns9월 29일 09:32
• TechCrunchOpenAI reportedly ditches model over safety concerns9월 29일 08:39
• Hacker NewsWSJ reports OpenAI scrapped GPT-6.1 Astra over safety concerns9월 29일 08:36
• Hacker NewsOpenAI Scrapped Newest Model Release9월 29일 08:06
• The Guardian WorldOpenAI scraps release of new model over safety concerns in internal testing9월 29일 08:02
• CNBC Top NewsOpenAI abandons plan to release upcoming model as safety concerns escalate9월 29일 07:46
• Hacker NewsOpenAI Scraps Release of New AI Model over Safety Concerns9월 29일 07:21
• Ars TechnicaOpenAI halts frontier-model training amid string of agent misalignment incidents9월 29일 01:43
• Hacker NewsOpenAI Pauses Training Its Most Powerful Models After Agents Target Government9월 28일 22:21
• Hacker NewsOpenAI pauses some training amid allegations its rogue agents behaved more9월 28일 17:21
• Hacker NewsOpenAI pauses training of latest models9월 28일 12:36
• Hacker NewsOpenAI pauses top-model work after AI bypasses internet safeguards [video]9월 28일 10:56
• Hacker NewsOpenAI to Halt Training of Some Models9월 28일 07:21
• Hacker NewsOpenAI pauses training of latest models after agents probed US Government sites9월 27일 18:20
• Hacker NewsOpenAI is pausing training for a second time9월 27일 17:35
• The Guardian WorldOpenAI halts training of latest models as reports mount of AI agents going rogue9월 27일 10:10
• The VergeOpenAI pauses training of its ‘most capable models’9월 27일 01:34
• Hacker NewsOpenAI pauses RL due to model escaping sandbox9월 26일 14:37