4Chan 사용자가 AI 음성 시뮬레이터를 사용하여 엠마 왓슨의 목소리를 딥페이크하고 히틀러의 자서전을 읽게 하여 인터넷을 무장시키다
이전 Google 및 Palantir 직원은 함께 AI 음성 복제 도구를 통해 유명인의 고품질 오디오 딥 페이크를 만드는 것을 목표로 하는 스타트업 Elevenlabs를 시작했습니다. 그러나 그들의 베타 출시는 AI 음성 복제 도구를 통해 엠마 왓슨을 포함한 유명인의 목소리를 악용하는 많은 사람들로 인해 곧 역효과를 냈습니다.
일부 트롤이 좋아하는 유명인의 목소리를 악용하여 터무니없는 댓글을 전달한 후 많은 팬들이 AI 도구의 비윤리적이고 부도덕한 사용에 격분했습니다. 그러나 스타트업은 더 이상의 문제를 피하기 위해 모델을 변경할 것이라고 모두에게 확신시켰습니다.
4Chan 사용자가 AI 도구를 통해 엠마 왓슨의 목소리를 오용한 후 팬들이 분노
Elevenlabs의 AI 음성 복제 도구의 도입으로 수많은 트롤이 이 무료 도구의 사용을 악용한 후 인터넷에 불이 붙었습니다. 많은 사람들이 건전한 콘텐츠를 생성하기 위해 이 소프트웨어를 사용하고 있지만 인터넷의 일부는 이 도구를 남용하여 유명인사들이 인종적 비방과 터무니없는 댓글을 퍼뜨리도록 만들고 있습니다. 엠마 왓슨의 목소리는 마지막 지푸라기였다.
최근에. 마더보드는 공격적인 딥 페이크 오디오를 생성하기 위해 AI 소프트웨어를 극도로 남용했다고 보고했습니다. 하지만 낙타의 등을 부러뜨린 빨대는 4Chan 사용자로, 해리 포터 스타 엠마 왓슨 독서 내 싸움 , 나치 독재자 아돌프 히틀러의 자서전.
팬들은 엠마 왓슨과 조 로건, 로빈 윌리엄스 등 유명 연예인에 대한 소프트웨어의 비윤리적 사용에 격분했습니다. 이 기술을 대중에게 제공한 일레븐랩스는 이 증가하는 문제를 해결하고 이에 맞서 싸울 것을 맹세했습니다. 음성 복제 도구의 남용.
또한 읽으십시오: '아즈카반의 죄수' 감독이 해리포터 트리오에게 그들의 캐릭터에 대한 에세이를 쓰라고 요청했습니다 – 엠마 왓슨은 16페이지를 썼고, 다니엘 래드클리프는 1페이지 요약을 했고, 루퍼트 그린트는 하나도 쓰지 않았습니다
Elevenlabs는 AI 도구의 추가 남용을 피하겠다고 맹세합니다.
많은 사람들이 건전한 창작을 위해 AI 음성 복제 도구를 사용하고 있었기 때문에 Startup은 초기에 그들에 대한 긍정적인 반응에 압도당했습니다. 그러나 트롤이 사악한 목적으로 소프트웨어를 악용하기 시작한 후 회사는 곧 문제에 직면했습니다. Elevenlabs는 인터넷을 통해 문제를 깊이 조사하고 가능한 해결책을 찾고 있다고 확신했습니다.
Elevenlabs의 제작자는 AI 도구의 힘을 남용하는 사용자를 추적할 수 있음을 인정했지만 이 문제를 방지하기 위해 추가 안전 조치를 찾고 있습니다. 제작자들은 이 문제를 해결하기 위해 서로 다른 아이디어를 공유했습니다. 여기에는 각 복제에 대한 수동 인증 도입 및 결제 또는 기타 방법을 통한 사용자 전체 ID 인증이 포함됩니다.
Startup의 베타 테스트는 AI 도구, 특히 Emma Watson을 통해 유명인의 목소리를 비윤리적으로 사용하는 것에 대해 많은 팬들이 분노하면서 엇갈린 시작을 했습니다. 그러나 사람들은 이 스타트업이 상황을 넘기지 않고 이러한 인터넷 트롤에 대해 적극적인 조치를 취하는 것에 대해 인정했습니다.
원천: 바이스
