갤러리 이슈박스, 최근방문 갤러리
개념글 리스트
1/3
- 필리핀 출장 갔다온 시의원, 석달 후 경찰 불려가게 된 사연 마스널
- 오들오들 리버블로우가 ㅈㄴ 아픈 이유.gif ㅇㅇ
- 김민아 피겜3 이지나 쌍욕 사건 인터뷰 가져옴 ㅇㅇ
- 일과 공부의 차이 학생회
- 남친이 자꾸 날 이기려들어서 화가 정수리 꼭지가 돌아버린다는 한녀 갓럭키
MITTR, 2024년 가장 큰 AI 실패 사례들
1. 저품질 AI 생성물들이 인터넷에 구석구석 퍼져 버림 (기사에선 AI slop 이라 함)생성 AI로 뭐든지 생성하는게 너무 쉽다보니 이메일, 광고, 기사, 소셜 등등 너무 많은곳에 쉽게 퍼져 버림광고 수익을 목적으로 하는게 많다 보니 감정적으로 자극적인 생성물을 많이 만들어 냄(부상당한 참전용사, 우는 아이, 이-팔 전쟁 지지 표명 등)보통 AI 모델들은 인터넷 데이터를 긁어서 훈련하는데 이 AI 쓰레기들 때문에 미래 AI 모델 성능 저하까지 우려되는 중임2. AI 예술은 실제에 대한 우리의 기대까지 왜곡하는 중임한 실제 사례로 AI를 활용한 이미지로 인터넷에 광고 했던 찰리와 초콜릿 공장 체험현장이 실제 가보니 기대에 비해 형편없는 곳이었던 사례가 있음사람들은 광고만 보고 자녀를 데리고 줄까시 서서 기다릴 정도였지만 들어가보고 바로 사기라 생각하고 분노 했다 함참고로 이거임3. 그록을 사용하면 거의 모든 시나리오 이미지를 만들 수 있음보통 AI들은 검열을 통해 생성 할 수 없는것과 생성 할 수 있는 것을 구분해 주지만(폭력적인, 성적인, 지적 재산권 침해, 타인의 권리 침해 등등 기준으로)그록은 머스크가 'woke AI'라 불리는것을 거부하여 이러한 모든 원칙을 무시함그래서 그록은 이런 폭력, 테러, 저작권 침해, 유명인 도용 등등 마음것 생성이 가능함이러한 그록의 행태는 다른 AI회사들이 가드레일을 만드려는 노력을 약화 시킴4. 테일러 스위프트의 성적인 딥페이크가 온라인에 유포됌1월에 테일러 스위프트의 비동의 딥페이크 누드가 X와 페이스북 등등에 유포 됌마소의 AI '디자이너' 를 속여 만듬마소는 빠르게 헛점을 차단 했지만 딥페이크 포르노에 맞서 싸우는데 얼마나 무력한지 보여준 사례임앞으로 워터마크와 데이터 포이즈닝 툴 같은 변화를 위한 도구를 더 널리 채택해야 함(내의견 아니고 기사에 나오는 그대로 쓰는거임)5. 비즈니스 챗봇들이 엉망이 되는 중AI가 보급되고 기업들은 앞다퉈 AI도구를 채택하려 하지만 이 챗봇들이 항상 정확한 정보를 제공하지 못한다는게 문제임한 사례로 에어캐나다에선 AI가 고객에게 존재하지 않는 유가족 환불 정책을 따르라고 조언해 버림또 다른 사례는 배달 회사 DPD의 봇이 별다른 이유도 없이 욕설을 하고 자신이 쓸모 없다 말하고뉴욕시민에게 도시정부에 대한 정보를 제공하기 위한 봇은 법을 어기는 법을 알려주는 사례도 있음6. AI 가젯은 시장 활성화를 못하고 있음AI pin, Rabbit R1 등과 같은 개인 비서 장치인 AI 가젯들은 비판적 리뷰와 다수의 버그, 속도가 느리다는 보고가 잇따른 후 비슷한 운명을 겪음참고로 이거ㅋㅋㅋ7. AI 검색 요약이 자꾸 잘못된 검색 결과를 줌구글에 검색하면 상단에 AI 생성 응답을 주는 AI 오버뷰 기능이 "피자에 접착제를 바르거나 돌맹일르 먹어본적 있나요?" 같은 이상한 답변을 줌이건 AI가 정확한 뉴스기사와 레딧에 올라오는 농담을 구분하는 기능이 없기 때문이라 함이런 기능은 심각한 결과를 초래할 수도 있는데 최근 한 사례로 아이폰 AI 사례가 있음(아마 애플 인텔리젼스?)앱 알림을 그룹화 하고 내용을 요약하는 아이폰의 기능이 최근 거짓 BBC 뉴스 헤드라인을 생성했는데 의료보험 CEO 브라이언 톰슨을 살해한 루이지 만지오네가 자살했다고 거짓말을 생성한거임또 이스라엘 총리 네타냐후가 체포되었다는 거짓말도 함이러한 오류는 잘못된 정보를 퍼트리고 뉴스 기관에 대한 신뢰를 훼손할 수 있다고...흠요약1. 저품질 AI 생성물이 인터넷에 너무 많이 퍼진다(쓰레기 데이터로 인한 AI훈련 성능저하, 자극적 광고 우려)2. AI 생성물로 인한 사기, 과장광고때문에 실제에 대한 기대까지 왜곡중(찰리와 초콜릿 공장 체험현장 사기)3. 그록AI 검열 없어서 타인 권리 침해, (성)폭력 등등 우려된다. 머스크 때문에 타 회사들도 그럴까봐 우려4. 테일러 스위프트 누드 딥페 유포됐자너? 워터마크, 데이터 포이즈닝 툴 같은 방지책 더 널리 채택 해야겠지?5. 기업이 채택하는 AI 챗봇들이 자꾸 잘못된 정보를 줌, 심지어 범죄적인 것, 비윤리적인 것도6. AI핀, 래빗R1 같은 AI 가젯들 쓰레기라 폭망함7. 구글에서 제공하는 검색 요약 기능 AI 오버뷰, 아이폰 AI와 같은 기능들이 자꾸 이상한 정보를 줌(보험회사 사장 살해범 자살소식, 이스라엘 총리 네타냐후 체포)https://www.technologyreview.com/2024/12/31/1109612/biggest-worst-ai-artificial-intelligence-flops-fails-2024/ The biggest AI flops of 2024 From chatbots dishing out illegal advice to dodgy AI-generated search results, take a look back over the year’s biggest AI failures.www.technologyreview.com
작성자 : 슈퍼130클럽고정닉
댓글 영역
획득법
① NFT 발행
작성한 게시물을 NFT로 발행하면 일주일 동안 사용할 수 있습니다. (최초 1회)
② NFT 구매
다른 이용자의 NFT를 구매하면 한 달 동안 사용할 수 있습니다. (구매 시마다 갱신)
사용법
디시콘에서지갑연결시 바로 사용 가능합니다.