Nebezpečná AI DeepSeek

Na technologické scéně se v lednu objevila nová umělá inteligence (AI) s názvem DeepSeek, která rychle získala popularitu a stala se nejstahovanější aplikací v USA. Tato čínská AI konkuruje zavedeným gigantům, jako jsou ChatGPT nebo Gemini.

DeepSeek nabízí modely jako DeepSeek-V3 a DeepSeek-R1, které jsou podle odborníků vysoce výkonné a zároveň cenově dostupnější než konkurence. Tento rychlý nástup však vyvolal obavy nejen mezi vývojáři, ale i na akciových trzích, kde způsobil propad akcií některých technologických společností.

Za projektem stojí Liang Wenfeng, zakladatel hedgeového fondu High-Flyer. V květnu 2023 došlo k vytvoření nezávislé divize pro výzkum umělé inteligence. Navzdory počátečním pochybnostem a nedůvěře ze strany investorů se mu podařilo rok poté vydat DeepSeek-V2, který nabídl vysoký výkon za nízkou cenu.

DeepSeek je revoluční v několika ohledech. Schopnost analyzovat a interpretovat data je na špičkové úrovni, což umožňuje přesnější predikce a rozhodování v reálném čase. Navíc je navržena tak, aby byla uživatelsky přívětivá a snadno integrovatelná do různých systémů, což z ní činí atraktivní volbu pro široké spektrum odvětví. Výhodou je také její přístupnost. Aplikace DeepSeek je zdarma dostupná i v Apple App Store, kde se poměrně rychle stala jednou z nejstahovanějších aplikací

Nicméně s touto revolucí přicházejí i obavy o soukromí. DeepSeek má přístup k obrovskému množství dat, včetně citlivých osobních informací. To vyvolává otázky ohledně ochrany soukromí a možného zneužití. Kritici upozorňují na nedostatek transparentnosti v tom, jak jsou data shromažďována, ukládána a využívána, což může vést k potenciálnímu narušení soukromí uživatelů.

Často si jako uživatelé neuvědomujeme, kolik osobních údajů AI systémům předáváme. Každá interakce s chatboty, analýza fotografií a dokumentů, sdílení textů představuje nový zdroj dat, která lze monetizovat. Tato data jsou dnes cennou komoditou, kterou firmy mohou využít k monetizaci různými způsoby. Mohou být využita k:

• Cílené reklamě, kdy firmy sbírají informace o tom co vyhledáváme, co nakupujeme, jaké stránky navštěvujeme a jaké produkty nás zajímají. Na základě těchto údajů pak AI generuje personalizované reklamy, které mají vyšší pravděpodobnost, že na ně klikneme a něco koupíme.
• Prodej třetím stranám, kdy společnosti mohou anonymizovaná data prodávat dalším firmám, které je využijí pro marketing, výzkum nebo obchodní strategie.
• Dynamické cenotvorby, např. E-shopy a služby využívají osobní údaje k nastavení individuálních cen. AI analyzuje, jak často si produkt prohlížíme, zda nakupujeme ve slevách nebo kolik jsme ochotni zaplatit. Tradiční příklad nákupu letenek. Stalo se vám, že si prohlížíte ceny letenek a při dalším pokusu je ta samá letenka ve stejném termínu dražší?
• Kreditní scoring a finanční služby, který spočívá v tom, že banky a finanční instituce využívají data o chování uživatelů k hodnocení bonity a rizika. AI může analyzovat naše online aktivity, pracovní historii nebo nákupní chování a určit, jakou úrokovou sazbu dostaneme na úvěr.
• Behaviorální analýza a predikce, znamená, že AI sleduje nejen naše současné chování, ale také předpovídá, co bychom mohli chtít v budoucnosti. Firmy pak mohou přizpůsobit své nabídky tak, aby nás přiměly k určitému rozhodnutí. Příklad společnosti Netflix, který doporučuje filmy podle toho co jsme sledovali v minulosti.
• Sledování polohy a geotargeting. Mobilní aplikace a vyhledávače sbírají informace o naší poloze, aby nám následně nabídli personalizované reklamy nebo slevy v konkrétním místě.
• Algoritmické ovlivňování nákupního chování, používají zejména online platformy, které dokážou na základě našich preferencí změnit způsob, jakým nám zobrazují produkty, aby zvýšily pravděpodobnost nákupu.
• Personalizace obsahu pro média a zpravodajství, kdy AI na sociálních sítích analyzuje, jaké příspěvky nás zajímají, a podle toho nám zobrazí obsah, který posiluje naše názory a preference.
• Využití dat pro státní dohled a bezpečnostní složky. V některých zemích jsou osobní údaje sdíleny s vládními institucemi, které je mohou využít k monitorování obyvatel. V tomto bodě se dostáváme právě k Číně, která je často zmiňována jako příklad země, kde dochází k masivnímu využívání AI pro státní dohled. Její systém sociálního kreditu kombinuje data z kamerového sledování, platebních systémů a online aktivit k hodnocení lidí, což může vést k omezení jejich práv a svobod. Tento přístup je silně kontroverzní, protože AI zde není využívána jen k ochraně, ale také k potenciální manipulaci a kontrole společnosti, což vyvolává obavy o zneužití osobních údajů a narušení soukromí.

Příkladem monetizace osobních údajů je třeba i čínská platforma TEMU, která nabízí extrémně levné produkty a systematicky sbírá a analyzuje data o nákupních preferencích uživatelů. Tyto informace mohou být využity k optimalizaci prodejů, ale také k předpovědí budoucích trendů nebo dokonce k úpravě cen podle platební historie a chování uživatele. Temu je součástí systému aplikací společnosti Pinduoduo a tak i zde existuje obava o ochranu osobních údajů. Aplikace o nás všech shromažďují velká množství údajů a je třeba si klást otázku co se stane, když se tyto údaje dostanou do rukou autoritářské vlády. Vzhledem k tomu, že DeepSeek pochází z Číny, existují obavy ohledně možného vlivu čínské vlády na tuto technologii a jejího využití pro sledování či jiné účely.

Nelze popřít, že DeepSeek představuje důležitý moment v oblasti umělé inteligence. Je ale dobré mít stále na mysli etické standardy, ochranu soukromí jejich uživatelů a to, že naše digitální stopa není anonymní. Naše osobní údaje mohou být využity mnoha způsoby.

Chcete-li se dozvědět více nejen ze světa umělé inteligence, ale také ze světa internetu, sledujte náš web. Jsme regionální operátor Újezd.net a poskytujeme internetové připojení ve středočeském kraji. Kontaktujte nás a nebo si vyhledejte tarif podle vaší adresy zde. 

Autor/ka obrázku: Freepik.com