인공 지능이 증가하고 있으며 일부 전문가는 우리를 보호하기 위해 더 많은 조치를 취해야 한다고 주장합니다.
Meta의 수석 인공 지능 과학자 Yann LeCun은 트위터에서 논란을 불러일으키는 데 익숙합니다.
그는 인공 지능(AI)의 이점을 단호하게 옹호해 온 수년 동안 온라인 불화에 상당한 몫을 해왔습니다.
그러나 그가 수요일 밤에 게시한 내용은 호주 최고의 AI 연구자 중 한 명에게 신경을 건드렸다.
LeCun은 트위터에서 “나는 모든 사람에게 혜택을 주는 기술 발전에 전적으로 찬성합니다. 하지만 먼저, 그것은 정치인과 민주주의가 달성해야 할 목표입니다.”라고 말했습니다.
“단지 불평등한 분배의 가능성은 과학의 진보와 기술의 발전을 멈출 충분한 이유가 되지 않습니다.”
시드니 대학의 AI 윤리 전문가인 Rebecca Johnson은 이러한 발언이 현재 AI 세계에 큰 문제가 있음을 시사한다고 말했습니다.
그녀는 기술 회사의 권력 위치에 있는 너무 많은 사람들이 사회의 요구에 가장 잘 부합하는 윤리적 AI를 개발하는 것이 그들의 책임이라고 생각하지 않는다고 생각합니다.
Yann LeCunn과 같은 사람들은 책임에서 벗어나 정치인에게 달려 있으며 나와는 아무 관련이 없다고 말합니다.”
“이 회사들은 ‘오 예, 우리는 윤리를 믿습니다’라고 말합니다. 좋습니다. 그러면 수석 과학자와 최고 CEO를 포함하여 회사의 모든 수준에서 이를 시행합니다.
“‘나를 건드릴 수 없어’라는 개인주의적인 록스타 인식에서 벗어나야 합니다.”
제너레이티브 AI의 등장
알고리즘을 사용하여 텍스트, 이미지 및 오디오를 생성하는 Generative AI는 올해 폭발적으로 증가했습니다.
ChatGPT 모델은 이력서를 작성하고, 복잡한 개념을 설명하고, 다이어트 계획을 세우거나 심지어 관계 또는 심리적 조언을 얻기 위해 사람들이 사용하면서 전 세계를 폭풍으로 몰아넣었습니다.
이러한 증가는 학생들이 과제에서 부정 행위를 할 수 있다는 두려움을 불러일으켰고, 호주의 5개 주는 이 기술을 금지했습니다.
이달 초 AI 전문가 그룹은 “사회에 대한 위험”을 이유로 개발을 6개월간 중단할 것을 촉구하기도 했습니다.
Google과 Microsoft는 AI 챗봇을 출시했으며 Google CEO Sundar Pichai는 AI가 “정답이 없는 질문에 대한 통찰력 종합”에 능숙하다고 설명했습니다.
정답은 무엇입니까?
이러한 알고리즘이 구축되는 방법과 이를 성공으로 간주하는 사람의 윤리는 박사 연구원인 Ms Johnson이 우려하는 사항입니다.
간단히 말해서 평가 지표는 AI 프로그램이 여성에 대한 편견이 있는지, 정확한지, 혐오 발언을 유포하는지 등을 판단하는 데 사용됩니다.
그러나 이러한 지표는 매우 결함이 있을 수 있으며 가장 높은 ‘윤리’ 점수를 획득하여 이익을 위해 경쟁에서 이기려는 회사의 영향을 받을 수 있습니다.
“그들은 모두 ‘이봐, 내 모델이 당신 모델보다 낫다’고 말하려고 노력하고 있지만 그들은 그렇게 검증되지 않은 테스트를 기반으로 하고 있습니다. 만약 당신이 심리학자에게 그것을 보여주면 그들은 당신을 비웃고 당신을 쫓아낼 것입니다.” 존슨이 말했다.
“이러한 평가 벤치마크를 조사하면서 정말 우려스러운 점을 발견했습니다.”
예를 들어, AI 모델의 상식을 평가하기 위해 지표는 서구 국가의 중산층 배경에서 영어를 사용하고 건강한 7세 어린이가 무엇을 알 수 있는지 살펴보았습니다.
“그럼 수단에 사는 아이는 어떻습니까? 그들은 모든 것에 대해 상식을 가지고 있을 수 있어서 저를 화나게 했습니다.”라고 존슨 씨는 말했습니다.
Reddit의 벤치마크에 대한 질문
일부 벤치마크는 Am I The Asshole?이라는 Reddit 포럼에서 가져온 것입니다. 이 포럼에서는 사람들이 분쟁의 잘못된 편에 있는지 다른 사람에게 물어볼 수 있습니다.
Ms Johnson은 “정말 말도 안 되는 소리입니다. 해당 하위 레딧의 텍스트가 평가 벤치마크에 내장되었고 사람들이 이를 사용하여 윤리에서 ‘내 모델이 10점 만점에 8점을 받았습니다’라고 말합니다.”라고 말했습니다.
Johnson은 이러한 평가 벤치마크에 대한 정부 규제를 “절대적으로” 지지할 것이라고 말했지만 문제의 핵심은 기술 분야의 인지적 다양성 부족으로 귀결된다고 말했습니다.
“더 많은 사람들이 이러한 문제를 발견할 수 있도록 학제 간 대화를 나누자.”
더 많은 의견을 요구하면서 Johnson은 오늘 시드니에서 개최되는 주요 심포지엄인 ChatLLM23을 시작했습니다.
이러한 위험은 현재 산업부 장관 Ed Husic에 의해 평가되고 있으며 그는 곧 국가 과학 기술 위원회에서 AI의 급속한 발전에 대한 검토를 발표할 것으로 예상됩니다.
Mr Husic은 논평을 위해 연락을 받았습니다.
게시일: 2023년 4월 28일28일: 2023년 4월, 업데이트일: 2023년 4월 28일
