Tak pojďme rovnou těžit crypto na úrovni čnb ))
MAleš MichlXView on XPokračujeme ve stavbě ČNB na AI. Právě jsem domontoval osmou grafickou kartu. Zatím jdeme hybridní cestou: část provozujeme na vlastní infrastruktuře, část v cloudu. Čas ukáže, zda budoucnost patří hybridní architektuře, nebo čistě cloudu.
ČNB Lab a následně celá @CNB_cz tak mají zase výkonnější hardware – ke stávajícím 4 GPU teď přibyly další 4.
Lokální provoz je ideální pro modely pracující s důvěrnými daty – ta neopouštějí infrastrukturu banky. Větší paměť umožňuje nasadit modely s delším kontextovým oknem, které zvládnou delší dokumenty a složitější úlohy – víc informací najednou.
A provozovat víc modelů souběžně, každý pro jiný účel. Nemusíme vybírat, který zrovna poběží.
Vedle toho rozšiřujeme AI i v cloudovém řešení…
1
0 comments