Ang Pilipinas ay nakakaranas ng pagtaas ng AI-driven disinformation, na gumagamit ng mga deepfake videos at AI-manipulated images upang magkalat ng maling impormasyon. Sa loob ng 2024, umabot sa 12% ng mga fact-check articles na inilathala ng Rappler ang may kinalaman sa mga pekeng larawan, video, at audio na ginawa gamit ang artificial intelligence. Karamihan dito ay tungkol sa kalusugan.
Ang mga sikat na personalidad tulad ng mga news anchors, medical professionals, politicians, at mga celebrities ay kabilang sa mga pangunahing target ng AI-driven disinformation. Si Dr. Willie Ong, isang senatorial candidate, ay binansagang biktima ng AI-generated materials na naglalaman ng maling impormasyon tungkol sa kanya na nag-eendorso ng mga produktong pangkalusugan. Gayundin, ang mga prominenteng journalists tulad ni Maria Ressa at Jessica Soho ay pinagmulan ng pekeng mga video gamit ang AI.
Kahit si President Ferdinand Marcos Jr. ay hindi nakaligtas sa mga ganitong klaseng disinformation, kung saan isang deepfake video ang kumalat na nagpapakita sa kanya na gumagamit ng iligal na droga. Kasama na rin sa mga biniktima ng AI manipulation ang mga political figures at celebrities tulad nina Taylor Swift, Cristiano Ronaldo, at Jessy Mendiola.
Ang paglaban sa AI-generated content ay isang malaking hamon para sa mga fact-checkers. Bagamat may mga tool na tumutulong, madalas itong mahal at hindi gaanong tumpak. Kadalasan, ang mga mamamahayag ay gumagamit ng oras para hanapin ang pinagmulan ng maling impormasyon at kumuha ng pahayag mula sa mga apektadong tao.
Sa paglapit ng 2025 midterm elections, inaasahan ang pagdami pa ng AI-driven disinformation. Bilang tugon, inilabas ng Comelec ang mga patakaran para sa social media gamit ng mga kandidato at ang mga pag-gamit ng AI sa kanilang mga kampanya. Mahigpit nilang ipinagbabawal ang paggamit ng AI para magkalat ng maling impormasyon sa panahon ng eleksyon.
