반응형 챗 gpt-4 오류1 Chat GPT-4의 오류에 대하여 최근 마이크로 소프트사 산하의 연구소에서 Chat gpt에 대한 오류와 독성적인 콘텐츠 산출에 대한 원인을 조명한 연구를 발표했습니다. 간략히 설명드리고 시사점을 전달합니다. 글을 시작하며 마이크로소프트 산하 연구소에서 GPT-4의 결함을 발견했다. GPT-4는 OpenAI의 대규모 언어 모델(LLM)로, 더 정확하게 지침을 따르려는 의도와 향상된 이해 능력으로 인해 잘못된 손에 들어가면 잘못 유용될 수 있다는 점을 주장했다. 연구원들은 GPT-4가 GPT-3.5보다 일반 벤치마크에서 일반적으로 더 신뢰할 수 있지만, GPT-4가 LLM의 기본 안전 조치를 우회하도록 악의적으로 설계된 Jailbreaking 시스템 또는 사용자 프롬프트에 더 취약하다는 사실을 발견했다고 주장했다. Jailbreak란 iO.. 2023. 11. 7. 이전 1 다음 반응형
