마이크로소프트 와 오픈AI: 딥페이크 퇴치를 위한 200만 달러 투자
마이크로소프트 와 오픈AI는 전 세계 선거에서 AI와 딥페이크가 야기하는 어려움을 해결하기 위해 200만 달러 규모의 ‘사회적 회복력 기금’을 조성한다고 발표했습니다. 생성 AI 기술의 발전과 그럴듯하지만 가짜 디지털 자료를 만드는 데 악용될 수 있는 가능성으로 인해 대형 인터넷 기업들은 선거의 공정성을 지키기 위한 조치를 취하게 되었습니다.
마이크로소프트와 오픈AI를 비롯한 여러 회사가 협력하여 유권자를 오도할 수 있는 딥페이크에 대응하기 위한 표준 프레임워크를 개발했습니다. 이러한 프로젝트와 더불어 오픈AI는 최근 가짜 콘텐츠를 식별하는 딥페이크 탐지기를 출시하여 허위 정보에 대응할 수 있는 도구를 확장했습니다.
마이크로소프트에 따르면 이 보조금은 사회 전반에 걸쳐 AI와 그 역량에 대한 이해를 증진하기 위한 것입니다. 예를 들어, OATS는 “AI의 기초적인 측면”에 초점을 맞춘 미국 내 50세 이상의 사람들을 위한 교육 프로그램에 지원금을 사용할 예정입니다.
“사회 복원력 기금의 출범은 AI 지식 및 교육 분야의 과제와 요구 사항을 해결하려는 마이크로소프트 와 오픈AI의 노력을 보여주는 하나의 단계일 뿐입니다.”라고 마이크로소프트의 기술 및 상업적 책임 담당 부사장인 테레사 허슨은 TechCrunch에 말합니다. “마이크로소프트 와 오픈AI는 이 작업에 계속 전념할 것이며, 우리의 명분과 가치에 동참하는 협회 및 기업들과 계속 협력할 것입니다.” (TechCrunch, nd)
AI 대 AI: 딥페이크와 싸우기
따라서 딥페이크의 위협이 증가함에 따라 새로운 접근 방식이 필요합니다. 마이크로소프트 와 선도적인 기술 기업 중 하나인 오픈AI는 시민들에게 딥페이크에 대응할 수 있는 도구를 제공하기 위해 사회 복원력 기금(Societal Resilience Fund)을 설립했습니다.
아래 표에는 딥페이크 퇴치를 위한 조직과 기업의 주요 역할과 기여도가 자세히 나와 있습니다:
| 조직 | 사회 복원력 기금에서의 역할 | 전문성 |
| Microsoft 및 OpenAI | 리더십 및 자금 지원 | 인공 지능 |
| 고령자 기술 서비스(OATS) | 시니어를 대상으로 딥페이크 식별 교육 실시 | AI 리터러시 및 시니어 교육 |
| 콘텐츠 출처 및 신뢰성을 위한 연합(C2PA) | 온라인 콘텐츠 진위 여부 확인을 위한 표준 수립 | 콘텐츠 인증 및 표준 개발 |
| 국제 민주주의 및 선거 지원 연구소(국제 IDEA) | 조작으로부터 선거 보호 | 선거 보안 및 민주적 관행 |
| AI 파트너십(PAI) | 책임감 있는 AI 개발을 위한 모범 사례 개발 | 윤리적 AI 개발 및 업계 협업 |
이러한 협력은 각 조직의 고유성을 강화하여 보다 정보에 입각한 안전한 디지털 미래를 만들어갑니다. 사회 회복력 기금은 현재 진행 중인 딥페이크와의 전쟁에서 유망한 해결책을 제시합니다. 이 프로젝트의 성공은 이들 단체의 노력뿐만 아니라 디지털 리터러시를 위해 노력하는 책임감 있는 온라인 시민이 될 때 가능합니다.
마이크로소프트 와 오픈AI: 딥페이크 방지를 위한 200만 달러 투자
교육과 사용자 권한 부여를 핵심으로 하는 이 혁신적인 접근 방식은 딥페이크의 문제를 해결합니다. 그러나 이러한 이니셔티브의 성공 여부는 다각적인 접근 방식에 달려 있습니다. 아래 표는 이 프로젝트의 강점과 약점을 보여주며, 많은 조직과 기업이 직면한 사회 회복력 기금의 잠재력과 도전 과제에 대한 통찰력을 제공합니다.
| 강점 | 약점 |
| 포괄적: 교육과 문해력에 중점을 둡니다. 개인이 딥페이크를 식별할 수 있도록 지원합니다. | 확장성과 지속 가능성: 전 세계, 특히 도시에서 멀리 떨어져 있어 교육 지원의 손길이 닿지 않는 국가에서 장기적인 교육 프로그램을 유지하려면 200만 달러 이상이 필요합니다. |
| 글로벌 영향력: 전 세계 유권자와 취약한 커뮤니티를 대상으로 특히 선거 기간 동안 잘못된 정보 캠페인에 대비합니다. | 효과 측정하기: 딥페이크에 맞서 싸우는 데 있어 교육의 영향력 파악하기. 펀드의 전반적인 성공과 AI가 생성한 잘못된 정보를 완화하는 데 미치는 영향을 평가하는 혁신적인 방법이 필요할 수 있습니다. |
| 전문가 협업: OATS, C2PA, International IDEA, PAI와 같은 기존 조직을 지원합니다. 이 조직은 취약한 커뮤니티가 콘텐츠 인증 및 책임감 있는 AI 개발에 대한 교육을 받을 수 있도록 지원합니다. | |
| 사전 예방적 전략: 사기성 콘텐츠를 접하기 전에 시민들에게 지식을 제공하여 정보에 입각하고 회복력 있는 사회를 조성합니다. |
트루스 테크: 딥페이크와 싸우기
이 펀드는 초기 투자금 200만 달러로 조직이 AI 교육을 제공하고 AI 역량에 대한 이해를 높일 수 있도록 지원합니다. 이러한 조직은 펀드의 목표를 달성하는 데 필수적인 역할과 영향을 미치기 때문에 이 투자는 매우 중요합니다:
커뮤니티 역량 강화: 이 기금은 OATS와 같은 단체에 보조금을 제공하여 노인 등 취약 계층을 우선적으로 지원하고, 신뢰할 수 있는 자원을 식별하고 이용할 수 있는 도구를 지원합니다.
AI 리터러시 향상: 이 기금은 AI 교육을 장려함으로써 일반 대중의 AI 리터러시를 높이는 것을 목표로 합니다. 이를 통해 취약한 시민과 유권자가 기만적인 AI 콘텐츠의 공격을 식별하고 대응할 수 있는 역량을 강화하여 정보에 입각한 분별력 있는 사회를 조성할 수 있습니다.
투명성 증진: 이 기금은 AI의 합성 미디어 프레임워크 파트너십과 같은 프로젝트를 지원합니다. 이 프레임워크는 AI 개발의 투명성을 촉진하고 책임감 있는 AI 사용을 위한 모범 사례를 지원하여 AI가 생성하는 잘못된 정보와 관련된 위험을 완화합니다.
글로벌 인지도: 국제 IDEA가 이 프로젝트에 참여함으로써 그 범위가 크게 확대되었습니다. 이 이니셔티브는 글로벌 교육 프로그램을 통해 딥페이크에 대한 대중의 인식을 제고하는 데 도움을 줍니다. 또한 이러한 프로그램은 선거 관리 기관, 시민 사회 및 미디어 활동가들의 역량을 강화합니다. 정보에 입각한 유권자를 육성하여 민주적 절차를 강화합니다.
딥페이크 그 너머: 진실의 미래
딥페이크, 즉 초현실적인 인공지능으로 생성된 동영상은 사실과 환상의 경계를 모호하게 만듭니다. 딥페이크는 예술적 표현과 교육적 목적으로는 재미있을 수 있지만, 다른 한편으로는 평판을 훼손하고 선거에 영향을 미치는 등 심각한 해악을 끼칠 수도 있습니다.
마이크로소프트 와 오픈AI의 사회 회복력 기금은 기술이 아닌 교육을 통해 맞서 싸우고 있습니다. 또한, 이들은 사람들에게 AI와 딥페이크에 대해 교육함으로써 온라인 콘텐츠를 비판적으로 평가할 수 있는 사회를 만드는 것을 목표로 합니다.
이는 단순히 딥페이크를 방지하는 것 이상의 의미를 지니며, 모든 사람이 AI의 복잡성을 이해하고 이를 악용하는 사람들에게 책임을 물을 수 있는 미래를 만들기 위한 것입니다.
디지털 시대의 진실을 위한 싸움에는 지속적인 노력이 필요합니다. 교육적 접근법을 연구하고 기술, 교육자, 정책 관계자들과 협력하는 것이 중요합니다. 또한, 시민들에게 권한을 부여하고 윤리적 AI 개발을 장려함으로써 우리는 진실이 번성하는 디지털 사회의 중심에 서도록 할 수 있습니다.
이선 박은 인공지능 분야에서 박사 학위를 소지하고 있으며, 기계 학습 알고리즘과 자연어 처리에 대한 연구를 수행해 왔습니다. 수학과 프로그래밍에 대한 탄탄한 기초를 바탕으로, 이선은 AI의 윤리적 의미와 응용에 대해 탐구하는 데 열정을 가지고 있습니다.