- Sdílet - [](https://www.facebook.com/sharer.php?u=https://about.ebsco.com/cs-cz/markdownify/node/160871) - []() - []() - []() # Otevření černé skříňky: Proč je transparentní umělá inteligence klíčová pro důvěru a odpovědnost? Transparentní umělá inteligence je klíčem k budování důvěry a odpovědnosti v oblasti technologií. Společnost EBSCO dokumentuje, jak každá funkce AI funguje. Ponořte se do našeho pohledu na transparentnost AI a do našich nových dokumentů o tomto tématu. ![Researcher on a mobile phone inside a pattern of circles with an magnifying glass icon representing "transparency"](https://assets.ebsco.com/asset/8cf9ae63-4c1c-4fd1-a80b-601ea4bb0da0/ai-at-ebsco-tenet-2-transparency-blog-image-780.png) 12. května 2025 Transparentnost je jedním z módních slov spojených s umělou inteligencí. Pro různé lidi může znamenat tolik různých věcí, že je důležité definovat, co obsahuje, co neobsahuje a proč se na některé věci nevztahuje. ## Vysvětlitelná AI a transparentnost Někteří definují „vysvětlitelnou“ umělou inteligenci jako umělou inteligenci, která je transparentní, a proto se tyto dva termíny často používají jako synonyma nebo společně při popisu odpovědných metod umělé inteligence. Co to ale vlastně znamená? Transparentnost je podle definice stav mezi neprůhledností a jasností, což znamená, že existují různé úrovně transparentnosti. V oblasti správy dat se transparentnost vztahuje k otevřeným datovým postupům, zatímco v datové architektuře znamená plně pochopit, jak něco funguje. V oblasti umělé inteligence jde o obojí, kdy transparentnost znamená, že model je etický a že společnost, která jej používá nebo navrhuje, zdokumentovala, jak umělou inteligenci použila a navrhla. Transparentnost lze charakterizovat jako: - **Interpretovatelnou**, schopnou vysvětlit nebo sdělit význam toho, jak bylo něco vytvořeno, vybráno, vylepšeno, udržováno nebo ukončeno, prezentovanou srozumitelnými termíny; - **Dostupnou**, umožňující přístup k informacím za účelem rozhodování na základě těchto informací; - **Komplexní**, schopnou vysvětlit něco od začátku do konce, z různých aspektů a z různých úrovní hloubky; - **Zodpovědnou**, umožňující pravidelně a opakovaně sledovat, ověřovat nebo přezkoumávat procesy, činnosti, použití a rozhodnutí v celém procesu. ## Transparentnost v architektuře umělé inteligence Různé vrstvy v architektuře AI mohou mít různé aspekty transparentnosti v závislosti na tom, co se v architektuře AI používá. V architektuře AI existují tradiční komponenty, jako jsou databáze, vyhledávací stroje, nástroje pro kontinuální integraci a kontinuální dodávku/ nasazení (CICD), ale také komponenty, které jsou pro architektury AI běžnější, jako jsou vektorové databáze, inženýrství podnětů, agenti a další. Jednou z běžných oblastí architektur AI je trénink AI, což je však často zaměňovaný termín pro mnoho různých věcí v AI. Přestože společnost EBSCO AI netrénuje, je dobré při prohlížení dokumentace o AI porozumět různým aspektům fungování modelů AI. ## Interakce s modely AI S modely umělé inteligence lze pracovat různými způsoby: - Informace používané k vytváření slovních, vstupních nebo vektorových souborů (tradičně se tím rozumí trénink AI). - Informace a/nebo vložené informace z informace použité pro trénování transformačních modelů (tradičně se tím rozumí trénink AI). - Informace a/nebo vložené informace z informace používané při inferenci a predikci modelu (tradičně se tím rozumí, když jsou text, obrázky nebo kroky v procesu generovány AI, přímý výstup z tréninku AI na základě výzvy). - Informace a/nebo vložené informace z Informace používané pro grounding (nejsou součástí tréninku AI, grounding je doplňkový zdroj dat, který AI konzultuje po kroku generování, aby zvýšila svou přesnost a relevantnost kontextu). - Informace a/nebo vložené informace z informací použité pro doladění (obvykle se jedná o heuristické pokyny nebo pokyny založené na pravidlech, které se přidávají za účelem zpřesnění zpracování a výstupu modelů AI). - Informace a/nebo vložené informace používané pro odvozování na základě schémat, jako je ontologie nebo znalostní grafy (obvykle se jedná o pokyny přidané modelu AI, aby byl relevantnější pro konkrétní organizační potřeby). - Informace a/nebo embeddingy z informací používané pro extrakci příznaků nebo entit (obvykle nejsou součástí trénování, ale jde o formu textového a datového dolování). - Rozbor dat (když se AI používá k pochopení struktury a kontextu textu nebo obrázků. Není součástí tréninku AI.). - Vyhledávání informací (když se AI používá k vyhledávání a získávání informací na základě dotazu nebo výzvy. Není součástí tréninku.) ![](/themes/custom/cog_ebsco/images/pullquote-icon.png) ### Vysvětlitelná a transparentní umělá inteligence umožňuje uživatelům zjistit, zda kvalita, etika, bezpečnost, ochrana soukromí, dopad na životní prostředí a další ukazatele splňují jejich očekávání a zda funkce umělé inteligence bude vyhovovat jejich potřebám. ## Závazek společnosti EBSCO k transparentnosti V zájmu transparentnosti společnost EBSCO vždy uvádí, kdy je v produktu použita umělá inteligence. Pro každou funkci AI máme také stránky produktu, kde je vysvětleno, jaký model je použit, proč byl vybrán, jaká jsou ochranná opatření pro kvalitu, bezpečnost a dopad na životní prostředí, jaká kritéria kvality jsou použita a jak je model uzemněn nebo udržován. Společnost EBSCO modely AI netrénuje, ale pokud bychom tak činili, bylo by to rovněž zdokumentováno na zvláštní stránce produktu. Prohlédněte si dokumenty o transparentnosti AI - [AI Insights](https://connect.ebsco.com/s/article/Generative-AI-Insights-Beta-Summaries?language=en_US) a [Natural Language Search](https://connect.ebsco.com/s/article/Coming-soon-Introducing-EBSCOs-AI-Natural-Language-Search-Mode?language=en_US) na stránkách EBSCO Connect. Jsme odhodláni poskytovat dokument AI Transparency pro každou funkci AI, kterou vydáme, takže nezapomeňte navštívit EBSCO Connect, kde najdete aktualizace. Kategorie : [Technologie ](/cs-cz/blogs/ebscopost/category/technologie) Tagy : [AI](/cs-cz/blogs/ebscopost/tag/ai) [Informační gramotnost](/cs-cz/blogs/ebscopost/tag/informační-gramotnost) [Discovery](/cs-cz/blogs/ebscopost/tag/discovery) - Sdílet - [](https://www.facebook.com/sharer.php?u=https://about.ebsco.com/cs-cz/markdownify/node/160871) - []() - []() - []() ## Související články [ ![AI @ EBSCO. (colorful icons representing: search magnifying glass, checkmark, digital journal, hands shaking, user persona, and balance)](https://assets.ebsco.com/asset/4438fc9a-58a6-4758-a9ee-35b46dc26bb8/responsible-research-through-responsible-ai-blog-image-780.jpg) ](/cs-cz/blogs/ebscopost/3058876/odpovedny-vyzkum-za-pomoci-odpovedne-umele-inteligence) [Odpovědný výzkum za pomoci odpovědné umělé inteligence](/cs-cz/blogs/ebscopost/3058876/odpovedny-vyzkum-za-pomoci-odpovedne-umele-inteligence) 11 září 2024 [ ![Illustration of a lock over a laptop with a garden of flowers and bushes behind it (EBSCO)](https://assets.ebsco.com/asset/2e8bc06d-a62a-4524-ad3f-6915e62f8081/ai-tenet-6-security-and-privacy-blog-image-780.jpg) ](/cs-cz/blogs/ebscopost/odpovedna-umela-inteligence-ochrana-soukromi-zabezpeceni) [Odpovědná umělá inteligence: ochrana soukromí a zabezpečení](/cs-cz/blogs/ebscopost/odpovedna-umela-inteligence-ochrana-soukromi-zabezpeceni) 15 listopadu 2024 [ ![Woman researching on a mobile device. Icons representing research, AI, cloud storage, efficiency, and ethics surround the mobile device](https://assets.ebsco.com/asset/178500c9-379a-4765-8f65-d5ff64a12f53/ai-teaching-information-literacy-blog-image-780.jpg) ](/cs-cz/blogs/ebscopost/vyuka-gramotnosti-v-oblasti-umele-inteligence-uvod-do-vyukove-miniserie) [Výuka gramotnosti v oblasti umělé inteligence: Úvod do výukové minisérie](/cs-cz/blogs/ebscopost/vyuka-gramotnosti-v-oblasti-umele-inteligence-uvod-do-vyukove-miniserie) 14 března 2025