미국의 한 그룹 의원들이, 아담 쉬프 하원의원의 주도로, 알파벳/구글 CEO 순다르 피차이에게 회사의 'AI 개요' 검색 기능과 관련된 정보 제공을 8월 1일까지 요구하는 기한을 제시했습니다.
AI 개요는 사용자가 검색어를 입력할 때 구글 검색 페이지 상단에 표시되는 요약 창입니다. 일반적으로 짧은 텍스트 답변, 관련 이미지, 그리고 추가 정보를 제공하는 링크를 포함하고 있습니다.
쉬프 의원실에 따르면, 여러 보고서를 인용하며 AI 개요가 부정확하거나 잠재적으로 위험한 정보를 제공하는 경향이 있다고 합니다.
쉬프 의원실에서 발표하고 네 명의 다른 의원이 공동 서명한 이 불만서는, 회사의 정확성과 안전성 향상 노력과 관련하여 이 기능에 대한 열한 가지 질문에 대한 답변을 요구하고 있습니다.
AI 개요
AI 개요의 일부 문제는 주어진 출처가 풍자인지 아닌지를 판단하는 데 명백한 어려움을 겪는 데서 비롯됩니다. 쉬프 의원과 다른 의원들은 "구글의 AI 개요 기능이 사용자에게 비타민과 미네랄을 위해 매일 최소한 한 개의 돌을 먹으라고 말했습니다"라고 썼으며, 이 AI가 풍자 뉴스 사이트인 "The Onion"을 인용하고 있다고 덧붙였습니다.
다른 경우로는, 사용자가 AI 개요가 버락 오바마가 최초의 무슬림 미국 대통령이라고 주장했다고 보고하기 시작했을 때, AI 시스템이 반박된 음모론을 직접 인용한 사례가 있습니다.
쉬프의 서한은 구글의 허위 정보 퇴치 노력을 인정하면서도, 더 많은 조치가 필요하다고 밝혔습니다.
"우리는 구글이 계속적인 테스트를 통해 기능을 개선하고, 회사의 콘텐츠 정책을 위반하는 응답을 삭제하며, AI가 생성한 응답을 실험적이라고 표시함으로써 이러한 오류를 수정하려는 노력을 높이 평가합니다. 그러나 구글이 미국인들에게 신뢰할 수 있고 믿을 만한 정보 출처로 남을 수 있도록 하기 위해서는 더 많은 조치가 필요합니다."
AI 추론
현재로서는 이러한 문제들이 실제로 해결될 수 있다는 과학적 합의가 없습니다. 문제의 핵심은 AI가 "생각"하거나 "추론"하지 않는다는 점입니다. 이러한 용어는 AI 제품의 마케팅에서 흔히 사용되지만, AI는 실제로 이러한 과정을 수행하지 않습니다.
생성형 AI 시스템은 인간의 언어를 모방하지만, 맥락을 이해하거나 얻은 경험을 상황에 적용하는 능력은 부족합니다.
이러한 문제들은 오랜 시간 동안 해결되지 않았으며, 초기의 대형 언어 모델들에서 발견되었습니다. 예를 들어, OpenAI의 GPT-2와 Meta의 현재는 서비스 종료된 "Galactica" 시스템이 그러합니다. Galactica는 출시 후 단 3일 만에 반발에 의해 서비스가 중단되었습니다.
US demands 미국의 요구
구글의 노력을 더 깊이 이해하기 위해, 쉬프 의원과 동료 의원들은 피차이와 구글이 8월 1일까지 11가지 질문에 대한 답변을 제공할 것을 요구했습니다. 이 질문들은 회사의 순위 매기기 절차, 자동화된 사실 확인, 정확성, 출처, 투명성, 그리고 안전 보장을 위해 당국과 협력하는 방법에 대한 내용을 포함하고 있습니다.
