Vybrané modely a konfigurace pustíme na stejném vzorku úloh a měříme, jak si vedou. Podle zadání sledujeme správnost výsledků, rychlost odpovědi, propustnost, nároky na paměť, stabilitu při zátěži a spotřebu.
Stejnou váhu jako úspěšné případy mají ty neúspěšné. Popisujeme, kde řešení selhalo, jak se selhání projeví v provozu a co z toho plyne pro nasazení.
Kdy má služba smysl
Vybíráte mezi několika modely nebo velikostmi modelu pro konkrétní úlohu.
Zvažujete nákup hardwaru a chcete jej vyzkoušet dřív, než jej pořídíte.
Potřebujete vědět, jak se řešení chová při vašem očekávaném zatížení.
Chcete porovnat lokální provoz s cloudovou variantou na stejném zadání.
Co potřebujeme od vás
Reprezentativní vzorek úloh, ideálně včetně obtížných a sporných případů.
Měřítko správnosti: co je správný výsledek a kdo to posoudí.
Očekávané zatížení, špičky a požadavky na odezvu.
Omezení pro práci s daty a pravidla důvěrnosti.
02 / Průběh
Jak postupujeme
Rozsah, cenu i termín potvrzujeme před zahájením práce. Jednotlivé kroky přizpůsobíme velikosti zadání.
01
Příprava zadání
Sestavíme testovací sadu, hodnoticí kritéria a způsob, jak se budou výsledky posuzovat.
02
Výběr variant
Dohodneme modely, konfigurace a hardware, které mají být v porovnání, včetně důvodu jejich výběru.
03
Měření
Testy provedeme na infrastruktuře Labu; po dohodě můžete použít její kapacitu sami.
04
Vyhodnocení
Výsledky vztáhneme k dohodnutým měřítkům a doplníme limity srovnání i podmínky, za kterých platí.
03 / Výstup
Možný výstup podle dohody
Konkrétní podobu výstupu sjednáváme podle rozsahu. Vždy uvádíme podmínky, za kterých zjištění platí.
Popis testovacího zadání a použitých vstupů.
Přehled testovaných modelů a konfigurací.
Výsledky měření a způsob hodnocení kvality.
Příklady situací, ve kterých řešení vyhovělo nebo selhalo.
Doporučení pro daný účel a popis limitů srovnání.
Co služba neobsahuje
Nejde o obecný žebříček modelů; výsledky platí pro testované zadání a nastavení.
Bez zadaného měřítka správnosti nelze kvalitu porovnat, jen popsat chování.
Publikované benchmarky jiných organizací nepřebíráme jako výsledek vašeho testu.
04 / Praktické otázky
Časté otázky ke službě.
Základní orientace pro první rozhovor. Podrobnosti vždy závisejí na konkrétním zadání.
Testujete i otevřené modely provozované lokálně?+
Ano, lokální provoz otevřených modelů je jednou z běžně porovnávaných variant. Posuzujeme, jaký model a hardware odpovídají úloze.
Můžeme si hardware vyzkoušet sami?+
Po individuální dohodě je možný vzdálený přístup nebo využití vybraného zařízení. Předem se potvrzuje účel, kapacita, doba a přístupové podmínky.
Jak pracujete s našimi daty?+
Pravidla práce s daty a důvěrnosti si potvrdíme před zahájením testu. Citlivá data doporučujeme poskytnout až po této dohodě.
05 / Služby
Další služby Labu.
Služby na sebe mohou navazovat. Začít můžete kteroukoli z nich podle toho, kde právě stojíte.