Backed byY Combinator
conifer
TowardsPrivate Superintelligence
· + · ✦ · + · ✦ · + · ✦ · + · ✦ · + ·· + · ✦ · + · ✦ · + · ✦ · + · ✦ · + ·· + · ✦ · + · ✦ · + · ✦ · + · ✦ · + ·· + · ✦ · + · ✦ · + · ✦ · + · ✦ · + ·
. . . , , , .,i . .. , i:,i. ;is: ,.i. .,:, , ..;. :i:+;i, ,=:.;;;;:.., . . .i;;,.ii.i.,;i.x,ii,+i=.; ,i=s=;ii;.= + i. ; . .,,,,:.:.i:sx;;:X,;+;i#ss;z=ii,:=::===iiz+i+si:..;i+,=,+,s=,. ;xz;s,,X.i;.:X,,=i:,WszW#XWXiW,i+ii +,+,ixiX#xzXXxWs+s;xsxix+xz ...:,.zXXsXs=:z+i:zzsWs:XX@WW@$z@XiXXW+s:i;#zXW=,iWzWs;zXzz=WzXW#Wz:. ;xxi.,=@+XsWsxssWssx$@si+X$,$$$;;x#xXXXXii;iW@Xx=.;xWx+,$x=xz@XWXi. .;+ii=WxsWWsWWzXszXXz==X@$#xz#X#$#+zXx#W@@#$$##@$@#z,;=@X+$$XzxWiXX+. . .ii,XWWxsWXW@@$$sX@WWs@Wix#$ixXX=@zWsW+i:$#$$$W@$$#;Xi.,WX@@$,XsW@W,;. ;:;.X. :+iiz+W@#Ws@#WW$$##@WW#@$$@W=W#x#X@@#@i:X=@=X$@$$@WXXiX,i#;W@W#Wz=ixs==+si;i# . . xs,iXiWWs@W@WW$$@#$@$$@@@$W@$$x=W$X#$$$zx#Wii.$#szW#s#$xx:sXs#@z@XXWsz@WXss=xX,: .;=x,; .+=zWs;++i#z$$@$#sW@$$$##$#$WWW#$iX=ziX##s=#zzXW#X==#zW$X##Ws,i;WzWWWX#ss#W@xX;iW#:i+#X=i:;; i,XWsz,Xx=WX$$$W$$$#W@s$$Xs#@xWW,X;i;+X;sX$ii$@@$WXi, :sW@$$$@$XsX@@X,iXXsWsX@W$#x,s$W#@i. ..izW@W@##$$$$#@$$#$X=sW+i+,+WWi+iXWz=;,:=#X;i$$#WWXzW$s#$@@@$WXxWx@##XWss#XW@#X=+WWXWi,. ;=,WX@$$$#$$$$@$$#sW,+sWx+@; :,i..xzX+ ,#@sis$zi#x#,i@W;=x#ii ;XX@W$@$W@WiXsX@$$@X;,..; . , ziXs$sW$#$$#zX$s@#@Xx=i:=X+=z,=Wi,+,:=.;,XW#Wi$X;@@;+@sz+iz@z;+.ii;@$$$XW$WWzW##WWXXiz.... . . i,X#W#$$xXx#$$$z,#xWX@x#x;;,iWiixW@i,i :i ;;x#Wz,$iW$is$X#$$$$x. :.ixx$#;+Xx$W;#;sX:xsX.X,W ..+ ,..;+.sx@@$WW@X:i$##@Wi#zs$WiW=xz;,;ss+:;X+s=;...,.iX;#WiWix#x$Wxs=X;i,:Xi.==W@#W;;#WX;+..ii=iiX=+.:szz;i,.. ;.iiXs @@#@xWX$W,X$@W#s#Ws@zx;,,W@xi;;sz;zs;s;,.; ;+x;$,xiiz,X,i ;XW$$zxz;i;Wsss,i,;i,i;;,=x#X+iXszX+$#ii;; .:,,,zWW=#$@$$##XW+=W#@$#@#;zXz,+:ssWWsX#$Wss.,XW:...z isi.x++;WXs+ ..i+,i;+XX :,s:W,i;=iz#Xx+iXiWszWz+,=zi,. ...Wz@$@Xs#$$$#W@x=WisW$$$$xWszxXs$$@i+XWsXx.$$X@W= is.isXiX+ W$W.$s. .sXsz,;W,szXisz;+,ziX@xxs@Xs#,Wxzx,Wix., .,..,+X$@#@@$$$#xs;+Xz#$W#@X+xi;:,,iz=. iz:#$$W:.iix$xWXX=:;,.;@W#$@#siizx;z#W=W#=,,=Xi+.+#@WWWi;W#iWWXsxz=:,i:. . .i=W$@$$WXss@W,,zWWi$szx $#x@$#,,s=.z$$WXX.X@s;,Xxx.@$$$$$$, x=X@$WWsx;i;.W,+ iW@Wssi$XW@sWWWsXX=X; i=. ,;=,.,s:+;s;=xX##WWW#s++==+z@;;..;; ,xWssWsWXW.:=+#$#+;X#s@x#$#@XsWX=+X$s. ##$iW;szW#Wi@#s+#$#WW#zX;xXs@@@#WXi:i#z=xi :x:,=WW@XiiWzi;iX,WxX@Wx;,i;;,,x@$@@zxW$;. .zs:X=WWX.$$$+,, ; . @@Wxz$#X@$#$$$$X@$+xWWXX@@$@WWW@$$#@@s@$Wsssi; ;zs=xz@@$W=;szi:;sX,i=;XWzWz#X$z=+=XXXzi;. ; .X$$$$$@W$$@=,,.,,,i...:=: =@$@$$s=sxX=W$@W@#iXss=$$$$@$$@@###W=i;:,, . .X#,xi@$@$$sxW=W;x@s; +,,.:izxX,, i;,.. ..:, i$$$$$$$$$$$@s;+.iix;i,,,: .X,,=$$$X,iWix$@ss+ .x$Xsii,i@@@zx: iW#Wzx$$$@X@XXW=X$X;z;,..:X++#@:;..;XW#Xi,+#@@$$$$@W@$$$$$$$W=#;=X#$$@#sxi+,x;i;s#$$$$$WWX@WW@#X=,;:=X+:,. ,X,i@$$$$$$@W#@ss#,=s. . ,XiX+ X$#;X$$$$$$@$$$@z. ,s$$$$$$W@x,$$$$WWz$:.zi ;, ii#@zs@$@WXs$$$s#WXi: .=W#WW@$$@$#$$@@z+Wsi. :::s@WW:iX$$$$$@$$@.;,; ;:.:$$$$$$#W$X@$$WWWW$$$@= ,;:+=xx, .;=;...;;i;,,;,;. ,,+i=XXx=xW$$$$@$$@@$x@,,i ,iXW;,i. .;$$@$XzWsW$$.;Xi .z,=$$$$$$$sX$WX, .x#$$X. .iiX,. .;,i.iW;.,;;=X;;. ::.zW;+z+XsWX+z$$$$@W+XWiWWWW;+i, ,x$z... ... , .:iiW@#$$$$$$$$X#WXX....,,is.:x#X==. : ,..ii+i;,i=zi.+; ;: :;;,,i;,@@#XzWX@= ssW$$@#,;i+x:$$sz;+i ;;$$X ,;:X@$$$$$$$W@$$W$$$Wx@$W$$..i =$$@= . . . Wi;i,i,XW,ix.,.., .. ,:;x= =s#WWX+X#Wz#@iz@=WX=XXW#+#@i;z@=W#WX+X####@#,.iz+=i:.::..:x@#$$@#$$$$@$WX$$$$$z=W$XxzW. ,i#X,, , .. .:.zixiiss;+X;=,ii;i. .xx.sWs#,#x#s#Xxx#Wzs$x:$zxX@ixx;: .;: . =@+ ;@WzXzsW@W,i@x$$$$@xszX#@$$Ws@@i ;;i ;@zX=i: =WW@=W i : , .,,xis;,#,zsXisxis=;;,,; ,., .iXW#@##@X@$#WW##$WX=zX@==i@z+=i:, , +##i:,##X:+,+i=#i@$i#$+=#W@iiWi+W$@@W#,;.,,i+ ,,::=;:W=i:,+.:W#$#X;i+Wss,;:,,iizWW#.+#z;izzi,#Xi=isz=:; :X,;,;z@@$#$#xXs@$#s@Wiizxi$zX=iW,;,+;,x. .,. :Xz,Xxsx;,;;=i. ,$$$WxWX+xsWXi#s,. i :.#@;sWsX,i,=xi;=,+@+s@x$sXsWx;i;W+.iWzsXWXXz,zWxXi$s,W$zXis:.,Xi .,i#xsXXX$$$$#WzXsX#XW@XzxXWxXs=XXX=:=++.:;xxW;Xz;,;+,:::=;;=W$$@sX@$$$W$s#+ii , ,i; ;=;W#=;sWXXX:i:.;i+W=#X#@z@iz=iizWX,XW#W@#XWszxz=X$#$$zXW#zisWW#+xi ,;,xzW$$Xs$$$$@sW$$W$szWX,is#$WxiWWi#,zx,i#i$x#X@,ii:iz,#,i;ii#W=W;X$$@@#,iWi; ,ii,;i.,X=x;,:xxX= ,sis=X.izW$$XizWzx=xW,#$@WsXXs#W#,=@$X@$@,zX=XW@@W:;, .;iisz@$##WWW$$##XWW@#$@#zzz=@$@XX;Wiiszi#@#zX$#zzX=,#i=i,ii=Wi;+#@#####X@z, .;.i;;+;;=+iXX#WW;;:.,W=WXXW#zs#XXsX###Xi#@i=z=sW@$$$#iz$@@$$@X#sX#@XX;=;; .;;:xW@$$W$$@@@#xsXi,iW$sixW@$$#,:XWXsXXX+x#WsxW,z,,,;;z,;;ixixz$$@XXW$Wsi; ;iX; ;x; ;i@X,Xs#i, .=x;xX$$$Xs@x+xW$@Xs@$W=W$@W@#@W@Ws$$$@$xWXW$$WWss,i,; :=i====zX##@@##XXW##@#W=i,ssX$WWz#+=+sW@@=WW#W=...+s=xi,==sXXiW=iiW@XX:,X$ ,=zsi. .;WWWXzi::=iix:+X;z@XWWsW$@z+X$#@#x##zXW#$$@W$$$$$$@X#$$$@Wzzii=zi xzXXXXx,iii;iz@WiiW;xX@@@#@WsW$$$;.WXs$$WWWs;,W. Xsix=x=@Wi, =xW@$$$$ii,W, ,,. ;x i#x: +Xs,=,X@$W=$zs#i..@$Xs@x$@iXXW@$$@@$XW$$W$$$WW$$$$Wxiii;... ...... .,=xWX$@ssW=X=i=zW#$#z:+sWW$sXi;: .::@Xzz;=+i.,,.X$$#$W#z;,iiii::,.. : ;s=.. ,,;,=$x..;$$,,, .W@$@$@W+XXsWz#$$@X@$$$$W@@@X=:. . .iW@@ss; ..z,:xXX@s#XWsW;.s@,i.i,;i;;,...z$@@#i=Xx@@Xx,i, iz i +,+ ;ssi. :s: .s#$z,, +s$$WWssXW$$Xs,i .X#W+i. ;=x:.. ,@$@@+zi+#xs+;.Xi .::.. . ,:ii;;.,. .i+W##i=WX,ixi.. W@W$@s$@XW;i,X$s..,.;x@$$$#xWWixis: . . ., ,,,:;X@$$$@$#WiszsiiXWW#=:=XW@WWzWz#$$Wz;i :;. . , , ;. , ,X@$@$$$$$$$$@@$= +,ix#sis; W$$$$WWx.;: .i=:. , ;:i, ::,s+::. . . ,;WXW#$$$@W#X+:i@=iW#i: ..,. +$W..;WWX=iz#+iiW; ,;.,,x,;.X ,; .i, i..,ss,i .;. x@W#sX@s,i,.;, i xi@$$@X iWW@z. ;@sXXX$sXi$i . , , .. +; . . .,.,;i::+ . .zx:+:,;=zXW#x,. ;,,:.:i +$$$W#i ,.,;,X;;i i:.i,,;@W; :z#WX;.: .ixs;,;X@$=.+. :: , ,..;i;;. z , . . ... ,, , .. .,ixi =,xsisixs$+XXX ;:;x;X@;,=i,,xXX@W@$$$$Ws,i:x. :s#x:,;xii ,x iixWXxs. xz s. . , X:i:;;i=X;x,,;Xi;; =,.. . +:,.;==:X;;,izX#;+.+WzXWXWW$@: ==::,i.iz#+,Xz#$$@$@W@#$$@zXxXii;,:;X+=i=;.,.. ,++;+si+=;.;. X:. ;s: .,i,,ii;W+siz;;=XsWz+;i:;;=. ;;..i.sszxWs=s,X:iW@W #sWsWX#@$@z$W =i s#i =,@$$$$$$sW@X@XsW,W$; .x+,W$zi;.,. z@ixW,z@+ :. @z s$#;.. .,x,,;Xixi,Xxix;,W@W,s,;Xi,i. ,;=i;s=sis$XW$#XW;#i++##z@XWW#W;XXiW###X;Xi....iX#$#@$$$#=W$$@=szs;WW,:,..;Wz, ;s++zs##..#; ,$Xs:.;XWXxs#@xi=:;z++X##zxWX@@W@#W#i.ii,;,: .,,Xx#@#$#@@W$W#$XsisWW=i$$XWiix W$$#sW. x@$$WXX.;s$$$@xx$$$i@#XXX#W;izX: .#,=@Ws@W=xz,;X#$$x=i;. ,Xsz;sWXx+$zs,sW@W@$@sxi@s,,;i@ixz; .;iiiiX$$#W$@X#$W#@$##zW#@$$WsXsi;:#;z:..;zW,..,X@$#$$$$Wzi:: ,isXi; .+###WW@z@#z:@#XW#$zz$i;.+;:i=s=xW=i=;;s@@###@@Xx=X;=z##Xz=: .,XxXWs$$W@X@$WXsx$#@#W#@#X#@ii;i+ ,s@$$$$@$sW$$X$WWsz ii;=; :xX@$$@,@,i@+$#;@W, WXWxz; i#@$WX$WX+s$@#$$$#$zX,x;X#$#xi..x= ,==i;zXx#$#@@##i##XssW+X@WX#@XXX:=:=XWWs. ;; .:iW#$W@Xz+. :W$@$$#W#$x+;s#+xix, . ; .z#$XzxW=#=Xzs##W$=X:;;X=W==i;+;z=:::,=.. ;;,XWsX$$x,@X@W@@XxxXsx,zsisW$zx:.;$WW...,xsW$@WxXW$@s$;. .W@@XX#$#XW$WssXs,sx:.:, .,.:is$#x$$i,i,XX#$#@XW+x;@iXsss,,.=,:s;x;x.,XX,i+,=Wzz##X$$XX$zzi:i;+Wz#XWXxs+x:;;=XW$@#X$#sziix+.i ::;iiizzW=+: .@$@XW==##WX@s=izz=s=+i=::;;iii=Xz$WXxzWW$#$$##ii#i#X=z##WsWz=+=izsiiiWxx$@$ssxxXWX,XWs@W,,xXsXxzX=x,.+WWX$$ixX$$X#XsX.,,.; :;, , .X@xXXz;.WWXss= .$#ssXixXXXXX@WxW@ssXW=,xsi,=,ixXX$@xszW$xX@$$i,=@iWx@xW@s=X: #x#s:,X=@WX#s$@#Wz+sWWXiiz=sW#+$X#XWzXziW@$$+z=#W@@XXW=:::.,.:;i ., .. .X@Wzz=W$@@@@#W+.. .W@#WWW++zs#WiW##$W#X=,;WWz+=xXz;#@sXs@$X#i;+Wi;+iW@XX#WXWXzs:+sxW+x+s#s@$X@$@WxX@X,Ws:,zWW$Xss$=Wz@X@WsiWi,,i; :@s.WX;.+x.i; ,..i;, ;$$sxz@z$$sXsixXs@@z,,i, iW@sWWWWWW,X@sW@@$W:.+WX@Wx=X,sX.W$#;XWWx$x:.. :sWi. ;@ssXss@x;=@xs=i$$#$#z$$W@#XXzz;zx=zWi#sWW#$zXszzXix=x=z=:Wz;z+,+Xz,;,..i:=.. ;#Xi;W$$@#:z+=:i,WWi:;+ix, z##zzs#WXxi;=#$$$@;;.i ,s#WWWz@@i@$$#$$WWW.,.:++$W@W.;zWW@#=x=zxWzs=xW@W@$W#$WW#xzssxs@#XzWW@@W$$sWzxi,XX,@iX@@Ws#x xs;sXi;sizi :Xs,X,s$$XWiiXxxsxXWXWXXz$#; .zWXW@W+.iii,x,z@$s ,,.W@+x#X#$$W#$#@$$$$@xXW$$@$$@$@XsX@$$W@WW#@XWzs@#@WX#X$@W#W$W=Wi=xi+s$$sX$#W#X#@#XiX$XW@#$$=..:=z@W@s==;;,isz@$WzW$W#Xi+s#i=iiz#$#$#; .... ,iX=#=i,.,i;is@@si$=;.;=sX@##Xix$#Xs#$X#$$@XsXX$#z x$$$@#XX@#W=X;izXiXX,is;@Xx$@$@$WzX$WixWWW,X,, #$is@Wz,:.,;sXis$W$XsWW@WXzs@,xWXX$WW$@s. ,,i,s@; iW$@$=$$$#W$$X;..,XxX; ;X##@@$#$$@##W=W=@iz#+==@@$$$$XX=zWXzx;XWsiW$#W@#Xx,.. i=Wzs#sWW#$Xz$$@s::=;z#z,X=;XWs. .,,,ii..:+:.,:,,.. ,#@WsXW$$@ss@W,ixWWXW#$$@z@@$zx#@XW=.i;zs#x#$Xs=. .;xX@$$$WiiW@$X#$W@zx+iz$:ixWW$$x .+i;;+zX#X+zW=;s:=@$W=;;:,:i+Xs$$$@W$$$X$XiXXsX+==:. :;XXWW$@#@@,.s$#X#Wiz#i,z$==s$$#: ;i;,;i,.,iX@ssWWsW= ;=ss$$@+;ii;i. ..,X$Wx$$@x=.#x;x#$s ,;WiW,;@@W=$+ . ,,:,, . ,#$$$@$@$=.izzz#@W#.;i,$$#X$$###@. W$X$W$$#x=,$@sx+s;Wzs.;$XWs$@W$=@ .X=z$xi,WW;X$$is..zz#+;sWX$#$#@ .@= s@XW$ ,WWXs@W$ :X$s+ . $x+;; ,, . [email protected].,#...;zX= ,i+,;i#i, , ii $Wix@i W ,i#W i.; ,$@:=W.:::,. XxzX. . .: , .$@;XX# , i.ixi$WiW.;. x: :,,x, ; .x, $x$X,X #.i$Xii#+:= ;:X:.i,:;;;ii;i:s . .. iX;;,; +@ssXx;;+ zX#@ x: :i= ,ixi;i #X #$:,z@ W#$@x+;:=;.X#.+.;. ,izs ,..,:,; $=iXs$i x#$s.#,.WsW=@z$X..,i = si@:;iW+Xx Ws,i,=X+.W@= xXi,W@z+i+z#W###WW+iXiW:i,;:+iWW@: ,@ i , ..=;i .s$;X:,#$ixs@@x#W$$$$$sss, .,Ws .XX WXs#X#z#;$= +#+;i=i+z#WX;W=.;X#@X@$=Xz+X#i:, ,WW;xX; $is$xii#W=i.;is#@$Xisi;.s#x;W=s#XzsXi ,#W.;,+ XX+z@$=s+.iW+..:ziiXi::;,,=+i;W+ ;s,;sXxzi@XzX: @x $X;=.;Wz,.,#@W . :Xz.;X: iXX,i.W+;+X@X#i+#W;XzXX#x=,i+ .s$:.,.zx=WX. #s#; +;#W: .,x ;zi$XXX=.,i=; x@, ,.z .;i;. .i.+iWX;,X. ,.+;.iX#:z#z=z;,+iixXi, ,i+i+z@@#zi,: ,i;. ,=X=W:. .;;i :,= ;. W$$x.=,s.:X#@; .x:.,;; .@@$sisx ,,:i#X#;;=iiX.W;,iXXizX :,, .. . .;,:::sz+zii. .s=##;==;is@@##i .izXi@s.,iixi,iiz.@X@$,. W@i,i i .:. ;xx,;,$;xz,W$$W. . i@#$Wzsi;;;i=;=Xzz++XX#i .,#X;W=Xsz., ;=W= ,;;iiizW$@##xs::.. .,. .=@$$$XXW=iisi; ,#$$@Xx:xW. .x=.=$@$i X@#xsi. x$sxX, . ,XW@@$W,+$. .,. :;;iiW=XX#Wzzzi+.XWs=:ii;=#W#=i:=W=XX#;,Wz ;,izxsi:W#;.::,;..,+=si,,:.. .... . .. ;=#$##:;Wi,,++iWWWWW###i#i:. ..; .X$$z$@x,s$$$$W@=;i,;,=XsXzxi@#X:W#s=.; sWsi#WW$W$#,z@@ $Wsx.@W$iX=,ixz$ ,:;ix#;;,ixx,,i:;ixixz; s$$WX:x#@W@. @$#xW$ W#@W$xi,iiX,x@$$;W,XX@X. . ,#+Wzi##sX$$WxsX@W+zzzzX#X##XW#s##WWWW$WsxiW#xX@s ,, iiW+i#+,=X##iX;;.s;=s+W=$i.Xz=:+Wx,:=,;:X,. :Xs=, .+ : :WzzX+ @W@$##+=iX+is,:=,.:.,=#i. xix:,ixz,@$:x,W$$#Xs$#X#XWX@W#$$s@@.;= sW$@.$$$. . .X,xiWXii.i ,;=x;W sz ,i,W iX+, .;, + .x,.ii... : ;s=x. ;#@si ;s@$Xi@$szX#X#@zi=ssx;s=;XX#; .=.::.+=;zs@#$$$#XX$@##$$@W$$#@#WW#WW$$W+W#s$Xxzi ;;::=+s;,:ii;,.. ,i+;;=. ;.i,::iii++W#+=is=zi+,=X##$@@+:s=++W@X=XX; :ii=W$$$$@xX$#WXs@@Xis+s@i. . ;.,ii;i+.X$$$$@$$$WX@@$$@@$@X#@@@#s#xisixiWi; ; ;.;XsWx,WXi; X ,: .s;Xiii, .,i,is@$Wssxisi,zi;,=i+WXxiW@X=x:... is. .$$$$$#s@$#$$$$@#sii; ::i;:.;W=xz,WWzz##$$#X#@XxW+X@@WXii==;; ==i;:,;;.., ,; +::.:, . : +z+z:i==WWX#$iWW@@WW@@Xs+s+:xX++ii+xWiizszx=s;,=x@@=..Xi#zXX#@z,;,z#Xz=s: .s;,i , .X=. ;. ,$z iW+;$; . .,;, : ;,: W$Xx. = X, + .ii;; .@$si$$,z@$sXW#$z@z,@@siXWWs@$zXiX,X#xz,X@Xxs. i$z;+,=x,iW ,W:..;i. ; ,.,. :z: ,;. .:i+;..X, .:s .;, ,,;..++s.,,.. , :,;i i.;i+i:W#$W@@$@z@@#s@$W@#@$#$@zi@xW@#Wx@@@W#W#x#WzXzi; .+X::::,:. ;:, ..,;=+= .i. ;s . Xi=ii$: . .,. . i;. ; ..,,= . . .x;;iXi$XxWX@$@$@@$sXX@W#X@$#X#X$@WXX@zWXXzXi@,W ;.:s i. .,.;ii@@WzW; ..,,,... ... ... ,sii, .,,i$i,. .. .. ,.=::, . .: ,=..;=,i.+i$@=XxW#@$@@@#@XixX##;,@:WXs. . : . .,;,.:##WXX#sXi. ,;,... ...;i... i , . . , .i ; ;z x; . ; ;, ;X X,si ; .;, ..., :,xs#X;,zsss;;,i=i+s. ..,,,......:;;:,,:,::;:;i;i:+,;;+.,:i..,..,. ,. . .., ...::X++;++WXWz;:, .. . ... .. . ,;i.,xii,,,xxx=;. ......::::,...
· + · ✦ · + · ✦ · + · ✦ · + · ✦ · + ·· + · ✦ · + · ✦ · + · ✦ · + · ✦ · + ·· + · ✦ · + · ✦ · + · ✦ · + · ✦ · + ·· + · ✦ · + · ✦ · + · ✦ · + · ✦ · + ·
. . . , , , .,i . .. , i:,i. ;is: ,.i. .,:, , ..;. :i:+;i, ,=:.;;;;:.., . . .i;;,.ii.i.,;i.x,ii,+i=.; ,i=s=;ii;.= + i. ; . .,,,,:.:.i:sx;;:X,;+;i#ss;z=ii,:=::===iiz+i+si:..;i+,=,+,s=,. ;xz;s,,X.i;.:X,,=i:,WszW#XWXiW,i+ii +,+,ixiX#xzXXxWs+s;xsxix+xz ...:,.zXXsXs=:z+i:zzsWs:XX@WW@$z@XiXXW+s:i;#zXW=,iWzWs;zXzz=WzXW#Wz:. ;xxi.,=@+XsWsxssWssx$@si+X$,$$$;;x#xXXXXii;iW@Xx=.;xWx+,$x=xz@XWXi. .;+ii=WxsWWsWWzXszXXz==X@$#xz#X#$#+zXx#W@@#$$##@$@#z,;=@X+$$XzxWiXX+. . .ii,XWWxsWXW@@$$sX@WWs@Wix#$ixXX=@zWsW+i:$#$$$W@$$#;Xi.,WX@@$,XsW@W,;. ;:;.X. :+iiz+W@#Ws@#WW$$##@WW#@$$@W=W#x#X@@#@i:X=@=X$@$$@WXXiX,i#;W@W#Wz=ixs==+si;i# . . xs,iXiWWs@W@WW$$@#$@$$@@@$W@$$x=W$X#$$$zx#Wii.$#szW#s#$xx:sXs#@z@XXWsz@WXss=xX,: .;=x,; .+=zWs;++i#z$$@$#sW@$$$##$#$WWW#$iX=ziX##s=#zzXW#X==#zW$X##Ws,i;WzWWWX#ss#W@xX;iW#:i+#X=i:;; i,XWsz,Xx=WX$$$W$$$#W@s$$Xs#@xWW,X;i;+X;sX$ii$@@$WXi, :sW@$$$@$XsX@@X,iXXsWsX@W$#x,s$W#@i. ..izW@W@##$$$$#@$$#$X=sW+i+,+WWi+iXWz=;,:=#X;i$$#WWXzW$s#$@@@$WXxWx@##XWss#XW@#X=+WWXWi,. ;=,WX@$$$#$$$$@$$#sW,+sWx+@; :,i..xzX+ ,#@sis$zi#x#,i@W;=x#ii ;XX@W$@$W@WiXsX@$$@X;,..; . , ziXs$sW$#$$#zX$s@#@Xx=i:=X+=z,=Wi,+,:=.;,XW#Wi$X;@@;+@sz+iz@z;+.ii;@$$$XW$WWzW##WWXXiz.... . . i,X#W#$$xXx#$$$z,#xWX@x#x;;,iWiixW@i,i :i ;;x#Wz,$iW$is$X#$$$$x. :.ixx$#;+Xx$W;#;sX:xsX.X,W ..+ ,..;+.sx@@$WW@X:i$##@Wi#zs$WiW=xz;,;ss+:;X+s=;...,.iX;#WiWix#x$Wxs=X;i,:Xi.==W@#W;;#WX;+..ii=iiX=+.:szz;i,.. ;.iiXs @@#@xWX$W,X$@W#s#Ws@zx;,,W@xi;;sz;zs;s;,.; ;+x;$,xiiz,X,i ;XW$$zxz;i;Wsss,i,;i,i;;,=x#X+iXszX+$#ii;; .:,,,zWW=#$@$$##XW+=W#@$#@#;zXz,+:ssWWsX#$Wss.,XW:...z isi.x++;WXs+ ..i+,i;+XX :,s:W,i;=iz#Xx+iXiWszWz+,=zi,. ...Wz@$@Xs#$$$#W@x=WisW$$$$xWszxXs$$@i+XWsXx.$$X@W= is.isXiX+ W$W.$s. .sXsz,;W,szXisz;+,ziX@xxs@Xs#,Wxzx,Wix., .,..,+X$@#@@$$$#xs;+Xz#$W#@X+xi;:,,iz=. iz:#$$W:.iix$xWXX=:;,.;@W#$@#siizx;z#W=W#=,,=Xi+.+#@WWWi;W#iWWXsxz=:,i:. . .i=W$@$$WXss@W,,zWWi$szx $#x@$#,,s=.z$$WXX.X@s;,Xxx.@$$$$$$, x=X@$WWsx;i;.W,+ iW@Wssi$XW@sWWWsXX=X; i=. ,;=,.,s:+;s;=xX##WWW#s++==+z@;;..;; ,xWssWsWXW.:=+#$#+;X#s@x#$#@XsWX=+X$s. ##$iW;szW#Wi@#s+#$#WW#zX;xXs@@@#WXi:i#z=xi :x:,=WW@XiiWzi;iX,WxX@Wx;,i;;,,x@$@@zxW$;. .zs:X=WWX.$$$+,, ; . @@Wxz$#X@$#$$$$X@$+xWWXX@@$@WWW@$$#@@s@$Wsssi; ;zs=xz@@$W=;szi:;sX,i=;XWzWz#X$z=+=XXXzi;. ; .X$$$$$@W$$@=,,.,,,i...:=: =@$@$$s=sxX=W$@W@#iXss=$$$$@$$@@###W=i;:,, . .X#,xi@$@$$sxW=W;x@s; +,,.:izxX,, i;,.. ..:, i$$$$$$$$$$$@s;+.iix;i,,,: .X,,=$$$X,iWix$@ss+ .x$Xsii,i@@@zx: iW#Wzx$$$@X@XXW=X$X;z;,..:X++#@:;..;XW#Xi,+#@@$$$$@W@$$$$$$$W=#;=X#$$@#sxi+,x;i;s#$$$$$WWX@WW@#X=,;:=X+:,. ,X,i@$$$$$$@W#@ss#,=s. . ,XiX+ X$#;X$$$$$$@$$$@z. ,s$$$$$$W@x,$$$$WWz$:.zi ;, ii#@zs@$@WXs$$$s#WXi: .=W#WW@$$@$#$$@@z+Wsi. :::s@WW:iX$$$$$@$$@.;,; ;:.:$$$$$$#W$X@$$WWWW$$$@= ,;:+=xx, .;=;...;;i;,,;,;. ,,+i=XXx=xW$$$$@$$@@$x@,,i ,iXW;,i. .;$$@$XzWsW$$.;Xi .z,=$$$$$$$sX$WX, .x#$$X. .iiX,. .;,i.iW;.,;;=X;;. ::.zW;+z+XsWX+z$$$$@W+XWiWWWW;+i, ,x$z... ... , .:iiW@#$$$$$$$$X#WXX....,,is.:x#X==. : ,..ii+i;,i=zi.+; ;: :;;,,i;,@@#XzWX@= ssW$$@#,;i+x:$$sz;+i ;;$$X ,;:X@$$$$$$$W@$$W$$$Wx@$W$$..i =$$@= . . . Wi;i,i,XW,ix.,.., .. ,:;x= =s#WWX+X#Wz#@iz@=WX=XXW#+#@i;z@=W#WX+X####@#,.iz+=i:.::..:x@#$$@#$$$$@$WX$$$$$z=W$XxzW. ,i#X,, , .. .:.zixiiss;+X;=,ii;i. .xx.sWs#,#x#s#Xxx#Wzs$x:$zxX@ixx;: .;: . =@+ ;@WzXzsW@W,i@x$$$$@xszX#@$$Ws@@i ;;i ;@zX=i: =WW@=W i : , .,,xis;,#,zsXisxis=;;,,; ,., .iXW#@##@X@$#WW##$WX=zX@==i@z+=i:, , +##i:,##X:+,+i=#i@$i#$+=#W@iiWi+W$@@W#,;.,,i+ ,,::=;:W=i:,+.:W#$#X;i+Wss,;:,,iizWW#.+#z;izzi,#Xi=isz=:; :X,;,;z@@$#$#xXs@$#s@Wiizxi$zX=iW,;,+;,x. .,. :Xz,Xxsx;,;;=i. ,$$$WxWX+xsWXi#s,. i :.#@;sWsX,i,=xi;=,+@+s@x$sXsWx;i;W+.iWzsXWXXz,zWxXi$s,W$zXis:.,Xi .,i#xsXXX$$$$#WzXsX#XW@XzxXWxXs=XXX=:=++.:;xxW;Xz;,;+,:::=;;=W$$@sX@$$$W$s#+ii , ,i; ;=;W#=;sWXXX:i:.;i+W=#X#@z@iz=iizWX,XW#W@#XWszxz=X$#$$zXW#zisWW#+xi ,;,xzW$$Xs$$$$@sW$$W$szWX,is#$WxiWWi#,zx,i#i$x#X@,ii:iz,#,i;ii#W=W;X$$@@#,iWi; ,ii,;i.,X=x;,:xxX= ,sis=X.izW$$XizWzx=xW,#$@WsXXs#W#,=@$X@$@,zX=XW@@W:;, .;iisz@$##WWW$$##XWW@#$@#zzz=@$@XX;Wiiszi#@#zX$#zzX=,#i=i,ii=Wi;+#@#####X@z, .;.i;;+;;=+iXX#WW;;:.,W=WXXW#zs#XXsX###Xi#@i=z=sW@$$$#iz$@@$$@X#sX#@XX;=;; .;;:xW@$$W$$@@@#xsXi,iW$sixW@$$#,:XWXsXXX+x#WsxW,z,,,;;z,;;ixixz$$@XXW$Wsi; ;iX; ;x; ;i@X,Xs#i, .=x;xX$$$Xs@x+xW$@Xs@$W=W$@W@#@W@Ws$$$@$xWXW$$WWss,i,; :=i====zX##@@##XXW##@#W=i,ssX$WWz#+=+sW@@=WW#W=...+s=xi,==sXXiW=iiW@XX:,X$ ,=zsi. .;WWWXzi::=iix:+X;z@XWWsW$@z+X$#@#x##zXW#$$@W$$$$$$@X#$$$@Wzzii=zi xzXXXXx,iii;iz@WiiW;xX@@@#@WsW$$$;.WXs$$WWWs;,W. Xsix=x=@Wi, =xW@$$$$ii,W, ,,. ;x i#x: +Xs,=,X@$W=$zs#i..@$Xs@x$@iXXW@$$@@$XW$$W$$$WW$$$$Wxiii;... ...... .,=xWX$@ssW=X=i=zW#$#z:+sWW$sXi;: .::@Xzz;=+i.,,.X$$#$W#z;,iiii::,.. : ;s=.. ,,;,=$x..;$$,,, .W@$@$@W+XXsWz#$$@X@$$$$W@@@X=:. . .iW@@ss; ..z,:xXX@s#XWsW;.s@,i.i,;i;;,...z$@@#i=Xx@@Xx,i, iz i +,+ ;ssi. :s: .s#$z,, +s$$WWssXW$$Xs,i .X#W+i. ;=x:.. ,@$@@+zi+#xs+;.Xi .::.. . ,:ii;;.,. .i+W##i=WX,ixi.. W@W$@s$@XW;i,X$s..,.;x@$$$#xWWixis: . . ., ,,,:;X@$$$@$#WiszsiiXWW#=:=XW@WWzWz#$$Wz;i :;. . , , ;. , ,X@$@$$$$$$$$@@$= +,ix#sis; W$$$$WWx.;: .i=:. , ;:i, ::,s+::. . . ,;WXW#$$$@W#X+:i@=iW#i: ..,. +$W..;WWX=iz#+iiW; ,;.,,x,;.X ,; .i, i..,ss,i .;. x@W#sX@s,i,.;, i xi@$$@X iWW@z. ;@sXXX$sXi$i . , , .. +; . . .,.,;i::+ . .zx:+:,;=zXW#x,. ;,,:.:i +$$$W#i ,.,;,X;;i i:.i,,;@W; :z#WX;.: .ixs;,;X@$=.+. :: , ,..;i;;. z , . . ... ,, , .. .,ixi =,xsisixs$+XXX ;:;x;X@;,=i,,xXX@W@$$$$Ws,i:x. :s#x:,;xii ,x iixWXxs. xz s. . , X:i:;;i=X;x,,;Xi;; =,.. . +:,.;==:X;;,izX#;+.+WzXWXWW$@: ==::,i.iz#+,Xz#$$@$@W@#$$@zXxXii;,:;X+=i=;.,.. ,++;+si+=;.;. X:. ;s: .,i,,ii;W+siz;;=XsWz+;i:;;=. ;;..i.sszxWs=s,X:iW@W #sWsWX#@$@z$W =i s#i =,@$$$$$$sW@X@XsW,W$; .x+,W$zi;.,. z@ixW,z@+ :. @z s$#;.. .,x,,;Xixi,Xxix;,W@W,s,;Xi,i. ,;=i;s=sis$XW$#XW;#i++##z@XWW#W;XXiW###X;Xi....iX#$#@$$$#=W$$@=szs;WW,:,..;Wz, ;s++zs##..#; ,$Xs:.;XWXxs#@xi=:;z++X##zxWX@@W@#W#i.ii,;,: .,,Xx#@#$#@@W$W#$XsisWW=i$$XWiix W$$#sW. x@$$WXX.;s$$$@xx$$$i@#XXX#W;izX: .#,=@Ws@W=xz,;X#$$x=i;. ,Xsz;sWXx+$zs,sW@W@$@sxi@s,,;i@ixz; .;iiiiX$$#W$@X#$W#@$##zW#@$$WsXsi;:#;z:..;zW,..,X@$#$$$$Wzi:: ,isXi; .+###WW@z@#z:@#XW#$zz$i;.+;:i=s=xW=i=;;s@@###@@Xx=X;=z##Xz=: .,XxXWs$$W@X@$WXsx$#@#W#@#X#@ii;i+ ,s@$$$$@$sW$$X$WWsz ii;=; :xX@$$@,@,i@+$#;@W, WXWxz; i#@$WX$WX+s$@#$$$#$zX,x;X#$#xi..x= ,==i;zXx#$#@@##i##XssW+X@WX#@XXX:=:=XWWs. ;; .:iW#$W@Xz+. :W$@$$#W#$x+;s#+xix, . ; .z#$XzxW=#=Xzs##W$=X:;;X=W==i;+;z=:::,=.. ;;,XWsX$$x,@X@W@@XxxXsx,zsisW$zx:.;$WW...,xsW$@WxXW$@s$;. .W@@XX#$#XW$WssXs,sx:.:, .,.:is$#x$$i,i,XX#$#@XW+x;@iXsss,,.=,:s;x;x.,XX,i+,=Wzz##X$$XX$zzi:i;+Wz#XWXxs+x:;;=XW$@#X$#sziix+.i ::;iiizzW=+: .@$@XW==##WX@s=izz=s=+i=::;;iii=Xz$WXxzWW$#$$##ii#i#X=z##WsWz=+=izsiiiWxx$@$ssxxXWX,XWs@W,,xXsXxzX=x,.+WWX$$ixX$$X#XsX.,,.; :;, , .X@xXXz;.WWXss= .$#ssXixXXXXX@WxW@ssXW=,xsi,=,ixXX$@xszW$xX@$$i,=@iWx@xW@s=X: #x#s:,X=@WX#s$@#Wz+sWWXiiz=sW#+$X#XWzXziW@$$+z=#W@@XXW=:::.,.:;i ., .. .X@Wzz=W$@@@@#W+.. .W@#WWW++zs#WiW##$W#X=,;WWz+=xXz;#@sXs@$X#i;+Wi;+iW@XX#WXWXzs:+sxW+x+s#s@$X@$@WxX@X,Ws:,zWW$Xss$=Wz@X@WsiWi,,i; :@s.WX;.+x.i; ,..i;, ;$$sxz@z$$sXsixXs@@z,,i, iW@sWWWWWW,X@sW@@$W:.+WX@Wx=X,sX.W$#;XWWx$x:.. :sWi. ;@ssXss@x;=@xs=i$$#$#z$$W@#XXzz;zx=zWi#sWW#$zXszzXix=x=z=:Wz;z+,+Xz,;,..i:=.. ;#Xi;W$$@#:z+=:i,WWi:;+ix, z##zzs#WXxi;=#$$$@;;.i ,s#WWWz@@i@$$#$$WWW.,.:++$W@W.;zWW@#=x=zxWzs=xW@W@$W#$WW#xzssxs@#XzWW@@W$$sWzxi,XX,@iX@@Ws#x xs;sXi;sizi :Xs,X,s$$XWiiXxxsxXWXWXXz$#; .zWXW@W+.iii,x,z@$s ,,.W@+x#X#$$W#$#@$$$$@xXW$$@$$@$@XsX@$$W@WW#@XWzs@#@WX#X$@W#W$W=Wi=xi+s$$sX$#W#X#@#XiX$XW@#$$=..:=z@W@s==;;,isz@$WzW$W#Xi+s#i=iiz#$#$#; .... ,iX=#=i,.,i;is@@si$=;.;=sX@##Xix$#Xs#$X#$$@XsXX$#z x$$$@#XX@#W=X;izXiXX,is;@Xx$@$@$WzX$WixWWW,X,, #$is@Wz,:.,;sXis$W$XsWW@WXzs@,xWXX$WW$@s. ,,i,s@; iW$@$=$$$#W$$X;..,XxX; ;X##@@$#$$@##W=W=@iz#+==@@$$$$XX=zWXzx;XWsiW$#W@#Xx,.. i=Wzs#sWW#$Xz$$@s::=;z#z,X=;XWs. .,,,ii..:+:.,:,,.. ,#@WsXW$$@ss@W,ixWWXW#$$@z@@$zx#@XW=.i;zs#x#$Xs=. .;xX@$$$WiiW@$X#$W@zx+iz$:ixWW$$x .+i;;+zX#X+zW=;s:=@$W=;;:,:i+Xs$$$@W$$$X$XiXXsX+==:. :;XXWW$@#@@,.s$#X#Wiz#i,z$==s$$#: ;i;,;i,.,iX@ssWWsW= ;=ss$$@+;ii;i. ..,X$Wx$$@x=.#x;x#$s ,;WiW,;@@W=$+ . ,,:,, . ,#$$$@$@$=.izzz#@W#.;i,$$#X$$###@. W$X$W$$#x=,$@sx+s;Wzs.;$XWs$@W$=@ .X=z$xi,WW;X$$is..zz#+;sWX$#$#@ .@= s@XW$ ,WWXs@W$ :X$s+ . $x+;; ,, . [email protected].,#...;zX= ,i+,;i#i, , ii $Wix@i W ,i#W i.; ,$@:=W.:::,. XxzX. . .: , .$@;XX# , i.ixi$WiW.;. x: :,,x, ; .x, $x$X,X #.i$Xii#+:= ;:X:.i,:;;;ii;i:s . .. iX;;,; +@ssXx;;+ zX#@ x: :i= ,ixi;i #X #$:,z@ W#$@x+;:=;.X#.+.;. ,izs ,..,:,; $=iXs$i x#$s.#,.WsW=@z$X..,i = si@:;iW+Xx Ws,i,=X+.W@= xXi,W@z+i+z#W###WW+iXiW:i,;:+iWW@: ,@ i , ..=;i .s$;X:,#$ixs@@x#W$$$$$sss, .,Ws .XX WXs#X#z#;$= +#+;i=i+z#WX;W=.;X#@X@$=Xz+X#i:, ,WW;xX; $is$xii#W=i.;is#@$Xisi;.s#x;W=s#XzsXi ,#W.;,+ XX+z@$=s+.iW+..:ziiXi::;,,=+i;W+ ;s,;sXxzi@XzX: @x $X;=.;Wz,.,#@W . :Xz.;X: iXX,i.W+;+X@X#i+#W;XzXX#x=,i+ .s$:.,.zx=WX. #s#; +;#W: .,x ;zi$XXX=.,i=; x@, ,.z .;i;. .i.+iWX;,X. ,.+;.iX#:z#z=z;,+iixXi, ,i+i+z@@#zi,: ,i;. ,=X=W:. .;;i :,= ;. W$$x.=,s.:X#@; .x:.,;; .@@$sisx ,,:i#X#;;=iiX.W;,iXXizX :,, .. . .;,:::sz+zii. .s=##;==;is@@##i .izXi@s.,iixi,iiz.@X@$,. W@i,i i .:. ;xx,;,$;xz,W$$W. . i@#$Wzsi;;;i=;=Xzz++XX#i .,#X;W=Xsz., ;=W= ,;;iiizW$@##xs::.. .,. .=@$$$XXW=iisi; ,#$$@Xx:xW. .x=.=$@$i X@#xsi. x$sxX, . ,XW@@$W,+$. .,. :;;iiW=XX#Wzzzi+.XWs=:ii;=#W#=i:=W=XX#;,Wz ;,izxsi:W#;.::,;..,+=si,,:.. .... . .. ;=#$##:;Wi,,++iWWWWW###i#i:. ..; .X$$z$@x,s$$$$W@=;i,;,=XsXzxi@#X:W#s=.; sWsi#WW$W$#,z@@ $Wsx.@W$iX=,ixz$ ,:;ix#;;,ixx,,i:;ixixz; s$$WX:x#@W@. @$#xW$ W#@W$xi,iiX,x@$$;W,XX@X. . ,#+Wzi##sX$$WxsX@W+zzzzX#X##XW#s##WWWW$WsxiW#xX@s ,, iiW+i#+,=X##iX;;.s;=s+W=$i.Xz=:+Wx,:=,;:X,. :Xs=, .+ : :WzzX+ @W@$##+=iX+is,:=,.:.,=#i. xix:,ixz,@$:x,W$$#Xs$#X#XWX@W#$$s@@.;= sW$@.$$$. . .X,xiWXii.i ,;=x;W sz ,i,W iX+, .;, + .x,.ii... : ;s=x. ;#@si ;s@$Xi@$szX#X#@zi=ssx;s=;XX#; .=.::.+=;zs@#$$$#XX$@##$$@W$$#@#WW#WW$$W+W#s$Xxzi ;;::=+s;,:ii;,.. ,i+;;=. ;.i,::iii++W#+=is=zi+,=X##$@@+:s=++W@X=XX; :ii=W$$$$@xX$#WXs@@Xis+s@i. . ;.,ii;i+.X$$$$@$$$WX@@$$@@$@X#@@@#s#xisixiWi; ; ;.;XsWx,WXi; X ,: .s;Xiii, .,i,is@$Wssxisi,zi;,=i+WXxiW@X=x:... is. .$$$$$#s@$#$$$$@#sii; ::i;:.;W=xz,WWzz##$$#X#@XxW+X@@WXii==;; ==i;:,;;.., ,; +::.:, . : +z+z:i==WWX#$iWW@@WW@@Xs+s+:xX++ii+xWiizszx=s;,=x@@=..Xi#zXX#@z,;,z#Xz=s: .s;,i , .X=. ;. ,$z iW+;$; . .,;, : ;,: W$Xx. = X, + .ii;; .@$si$$,z@$sXW#$z@z,@@siXWWs@$zXiX,X#xz,X@Xxs. i$z;+,=x,iW ,W:..;i. ; ,.,. :z: ,;. .:i+;..X, .:s .;, ,,;..++s.,,.. , :,;i i.;i+i:W#$W@@$@z@@#s@$W@#@$#$@zi@xW@#Wx@@@W#W#x#WzXzi; .+X::::,:. ;:, ..,;=+= .i. ;s . Xi=ii$: . .,. . i;. ; ..,,= . . .x;;iXi$XxWX@$@$@@$sXX@W#X@$#X#X$@WXX@zWXXzXi@,W ;.:s i. .,.;ii@@WzW; ..,,,... ... ... ,sii, .,,i$i,. .. .. ,.=::, . .: ,=..;=,i.+i$@=XxW#@$@@@#@XixX##;,@:WXs. . : . .,;,.:##WXX#sXi. ,;,... ...;i... i , . . , .i ; ;z x; . ; ;, ;X X,si ; .;, ..., :,xs#X;,zsss;;,i=i+s. ..,,,......:;;:,,:,::;:;i;i:+,;;+.,:i..,..,. ,. . .., ...::X++;++WXWz;:, .. . ... .. . ,;i.,xii,,,xxx=;. ......::::,...
Backed byY Combinator
- The Wall Street Journal.
- The Hill
- Liquid AI
- NVIDIA
- Qwen
- Alibaba Cloud
Routing from the bottom up.
Local-first|
Every query starts on your own machine and only moves up when it has to:
- Your machine is the first stop. The weights stay loaded in unified memory, so most queries run at full speed and cost nothing.
- A query goes to the cloud only when the local answer falls short. Cheaper cloud models are tried before the frontier ones.
- You pay only for the queries that reach the cloud. Most never leave the machine, which cuts total token cost by more than 80%.
- Turn on secure routing and nothing leaves the machine. The router still picks the best local model for the task.
Expand
Local inference
shouldn't feel slow.
GPU accelerated|
The speed lives in the kernels. We tune the GPU code to each model and each chip:
- Hand-written Metal and CUDA kernels on the hot paths, not a generic BLAS call.
- Fused kernels: quantized matmul, RMSNorm, RoPE and the attention softmax run in one pass, so the weights cross the memory bus once.
- Decode is memory-bound, so we keep weights in Q4_K and move the fewest bytes per token.
- A flash-style attention kernel sized to each model's head dimension keeps the KV cache on-chip.
- For mixture-of-experts models, routing is one grouped GEMM instead of a loop over experts.
The chip spends its time computing, not waiting on memory.
