Nos últimos meses virou quase um mantra: “rode seu próprio LLM localmente e tenha independência total”. Na prática, quando você começa a olhar os números de perto, percebe que a história é bem diferente. Existe um gap enorme entre o discurso e a realidade de hardware, performance e qualidade. Vamos colocar isso em termos técnicos, sem romantização.
Tag: Quantização
