Инстинктът е да посегнеш към най-големия модел. В предприятието този инстинкт обикновено е грешен.
Ефектът идва от съответствие, не от размер
Модел, фино настроен за вашата област, обвит в добра оценъчна система и обслужван евтино, ще изкара повече от frontier API, който не можете да си позволите в мащаб. Въпросът никога не е „кой е най-добрият модел?“ — а „кой е най-добрият модел за тази задача, на тази цена, с тези гаранции?“
Къде печелят отворените тегла
- Предвидими разходи — вие държите кривата.
- Локалност на данните — моделът работи там, където данните трябва да останат.
- Контрол — можете да го промените, квантизирате и одитирате.
Frontier е чудесно място за прототипи. Продукцията възнаграждава скучния, контролируем избор.