Nowe metody zwalczania fałszywych treści publikowanych przez użytkowników w Mapach Google
Każdego miesiąca ponad miliard osób używa Map Google do nawigacji i eksplorowania świata. W zapewnieniu przydatności i aktualności tych danych pomagają między innymi treści publikowane przez użytkowników i użytkowniczki – filmy, opinie i oceny – dzięki którym możecie odkryć najlepszą restaurację w mieście czy nawet znaleźć hydraulika. Treści publikowane przez użytkowników mogą być bardzo przydatne, ale czasami zdarzają się też oszuści, którzy publikują fałszywe treści, aby na nich zarabiać. Dziś przedstawimy 2 nowe sposoby zastosowania technologii, które wspierają naszych analityków w zabezpieczaniu Map przed takimi treściami, często jeszcze przed ich publikacją. Omówimy również postępy, jakie zrobiliśmy w 2022 roku, aby zapewnić bezpieczniejsze Mapy dla wszystkich użytkowników.
Jak systemy uczące się pomagają zminimalizować ilość złych treści
- Szybciej wykrywamy wzorce nadużyć: już od dawna wykorzystujemy systemy uczące się do wykrywania wzorców możliwych nadużyć i stale ulepszamy naszą technologię. W minionym roku wprowadziliśmy w naszych modelach AI istotne aktualizacje, dzięki którym możemy identyfikować nowe trendy nadużyć o wiele szybciej niż w poprzednich latach. Nasze automatyczne systemy wykryły na przykład nagłe zwiększenie liczby profili firm z adresami witryn o domenie .design lub .top. Zauważenie tego byłoby bardzo trudne podczas ręcznego przeglądania milionów profili. Zespół analityków szybko potwierdził fałszywość tych witryn, dzięki czemu mogliśmy je od razu usunąć i wyłączyć powiązane z nimi konta.
- Usuwamy fałszywe zdjęcia: w niektórych miejscach oszuści zaczęli nakładać na przesłane obrazy inne numery telefonów, aby użytkownicy używali ich zamiast prawidłowych numerów do firm. W celu zwalczenia tego problemu wdrożyliśmy nowy model systemów uczących się, który za pomocą analizy elementów wizualnych i układów zdjęć rozpoznaje numery nałożone na przesłane obrazy. Nowy model pozwolił nam wykryć i zablokować zdecydowaną większość takich fałszywych, naruszających nasze zasady zdjęć, zanim jeszcze zostały opublikowane.
Nasze postępy w 2022 roku
W 2022 roku zastosowanie nowych modeli w połączeniu z zaawansowanymi technikami automatycznymi i manualnymi umożliwiło nam usunięcie większej ilości fałszywych treści. Poniżej przedstawiamy kilka naszych innych osiągnięć na polu zwalczania fałszywych treści w tym czasie:
- Zablokowaliśmy lub usunęliśmy 115 milionów opinii, które naruszały nasze zasady. Większość z nich została wykryta przed publikacją. Dzięki zaktualizowanym modelom udało nam się usunąć o ponad 20% więcej fałszywych opinii niż w 2021 roku.
- Stosowane przez nas techniki pozwoliły zablokować lub usunąć ponad 200 milionów zdjęć oraz 7 milionów filmów o niskiej jakości, rozmytych lub niezgodnych z naszą polityką treści.
- Mimo że nieuczciwe podmioty doskonalą swoje strategie, powstrzymaliśmy 20 milionów prób utworzenia fałszywych profili firm, czyli o 8 milionów więcej niż w 2021 roku. Wprowadziliśmy również zabezpieczenia w przypadku 185 tysięcy firm po wykryciu podejrzanych działań i prób nadużyć.
Rozpoczęliśmy działania prawne przeciwko szkodliwym podmiotom, które naruszały nasze zasady. Dzielimy się także naszymi sprawdzonymi metodami z instytucjami państwowymi, aby pomóc w opracowywaniu trwałych rozwiązań dla całej branży.
- Wnieśliśmy pozew do sądu i w konsekwencji unieszkodliwiliśmy grupę oszustów, którzy podszywali się pod firmę Google, przeprowadzając rozmowy telemarketingowe i próbując sprzedawać fałszywe opinie online. Pracując nad tym przypadkiem, wykorzystaliśmy nasze wcześniejsze doświadczenia dotyczące działań prawnych przeciwko internetowym oszustom i osobom rozpowszechniającym złośliwe oprogramowanie.
- Dzielimy się naszymi informacjami z Federalną Komisją Handlu (ang. Federal Trade Commission, FTC) i instytucjami państwowymi w różnych krajach, aby pomóc w zwalczaniu fałszywych opinii i poleceń w całej branży.
Chociaż zrobiliśmy w tej dziedzinie duże postępy, zdajemy sobie sprawę, że oszuści nie próżnują. Dlatego stale doskonalimy nasze metody działania. Nasze zespoły pracują przez całą dobę i stosują najnowsze technologie, aby zapewnić autentyczność, bezpieczeństwo i wiarygodność treści publikowanych przez użytkowników i uzytkowniczki w Mapach Google.
