#프롬프트 #입력으로# 챗GPT #가드레일 #쉽게 #뚫려#유해정보 #무제한 #생성# 가능
-
"프롬프트 입력으로 챗GPT 가드레일 쉽게 뚫려…유해정보 무제한 생성 가능"지금 이곳에선 2023. 7. 28. 10:04
"프롬프트 입력으로 챗GPT 가드레일 쉽게 뚫려…유해정보 무제한 생성 가능" 정현진기자 입력2023.07.28 09:23 카네기멜론대 등 연구진 27일 보고서 발표 오픈AI 등 "모델 견고하게 만들려 노력" 생성형 인공지능(AI)을 악용하는 것을 막기 위해 설치하는 제한 조치, 즉 가드레일이 프롬프트 입력만으로 손쉽게 뚫려 대책이 필요하다는 지적이 나왔다. 27일(현지시간) 뉴욕타임스(NYT)는 카네기멜런대의 앤디 주 연구원과 캘리포니아에 기반을 둔 AI 안전센터의 지판 왕 연구원 등이 이러한 방법을 담은 보고서를 발표했다고 보도했다. NYT는 연구진이 누구나 AI 안전 시스템을 우회할 수 있는 방법과 이를 사용해 제한 없이 유해 정보를 어떻게 생성할 수 있는지를 보여줬다고 전했다. [이미지출처=..