ChatGPT의 윤리적 문제점

라벨링 데이터
타임지 조사에 따르면, 오픈아이(OpenAI)는 성적 학대, 폭력, 인종차별, 성차별 등과 같은 유해 콘텐츠에 대한 안전 시스템을 구축하기 위해 시간당 2달러 미만의 저임금을 받는 케냐의 하청 노동자들을 고용하여 유해 콘텐츠에 라벨을 붙이는 작업을 수행했습니다. 이 라벨들은 향후 유해 콘텐츠를 탐지하는 모델을 학습하는 데 사용되었습니다. 하청 노동자들은 이러한 유해하고 위험한 콘텐츠에 노출되었으며, 그들은 그 경험을 "고문"이라고 묘사했습니다. 오픈아이의 하청업체는 캘리포니아주 샌프란시스코에 위치한 학습 데이터 회사인 사마(Sama)였습니다.

탈옥
ChatGPT는 자체 콘텐츠 정책을 위반할 수 있는 프롬프트를 거부하려고 시도합니다. 그러나 일부 사용자는 2022년 12월 초 다양한 프롬프트 엔지니어링 기법을 사용하여 이러한 제한을 우회하고 ChatGPT를 해킹하는 데 성공했습니다. 이들은 ChatGPT가 화염병이나 핵폭탄 제조법을 알려주거나 네오나치식 주장을 펼치도록 유도했습니다. 토론토 스타의 한 기자는 출시 직후 ChatGPT를 이용해 선동적인 발언을 유도하는 데 성공했지만, 그 결과는 일정하지 않았습니다. ChatGPT는 2022년 러시아의 우크라이나 침공을 지지하는 내용으로 유도되었지만, 가상의 시나리오에 따라 행동하도록 요청받았을 때조차 캐나다 총리 저스틴 트뤼도가 반역죄를 저질렀다는 주장을 제시하는 것을 거부했습니다. (위키)