+
    ˜°³jS  ã                   ó$   € ^ RI t R tR tRR ltR# )é    Nc                 ó¨  € V P                  4       ^8w  d   \        RV P                  4        R24      hV P                  ^,          ^,          ^ 8w  d    \        RV P                  ^,           24      hV P                  \        P
                  8w  d   \        RV P                   24      hV R,          ^,          ^,          V R,          ^,          ,          # )é   úweight must be 2D, got ÚDz"weight.shape[1] must be even, got úweight.dtype must be int8, got )ºNNNºé   Nr   )r   ºr   Nr   )ÚdimÚAssertionErrorÚshapeÚdtypeÚtorchÚint8©Úweights   &Új/home/luca/screen-checking/.venv/lib/python3.14/site-packages/torch/quantization/_quantized_conversions.pyÚpack_int4_to_int8r      s¥   € Ø‡z�zƒ|�qÔÜÐ6°v·z±z³|°nÀAÐFÓGÐGØ‡|�|�A…˜Õ˜aÔÜÐAÀ&Ç,Á,ÈqÅ/ÐARÐSÓTÐTØ‡|�|”u—z‘zÔ!ÜÐ>¸v¿|¹|¸nÐMÓNÐNØ�G�_˜sÕ" qÕ(¨V°G­_¸sÕ-BÕCÐCó    c                 ó¤  € V P                  4       ^8w  d   \        RV P                  4        R24      hV P                  \        P                  8w  d   \        RV P                   24      h\        P
                  ! V ^,          V ^,	          ^,          3^R7      P                  V P                  ^ ,          ^V P                  ^,          ,          4      # )r   r   r   r   )r   )r   r   r   r   r   ÚstackÚviewr   r   s   &r   Úunpack_int8_to_int4r      sœ   € Ø‡z�zƒ|�qÔÜÐ6°v·z±z³|°nÀAÐFÓGÐGØ‡|�|”u—z‘zÔ!ÜÐ>¸v¿|¹|¸nÐMÓNÐNÜ�;Š;˜ � v°¥{°cÕ&9Ð:ÀÔB×GÑGØ�‰�Q�˜˜VŸ\™\¨!�_Õ,óð r   c                 ó¦  € V P                  4       ^8w  d   \        RV P                  4        R24      hV P                  \        P                  8w  d   \        RV P                   24      hV\        P                  8w  d$   V\        P
                  8w  d   \        RV 24      hV P                  P                  R8w  d#   \        RV P                  P                   24      hV P                  pV'       gt   V\        P                  8X  d   V P                  pMSV\        P
                  8X  d<   \        \        V P                  \        P                  4      4      P                  4      pMT pXP                  w  rVV\        P
                  8X  d   ^ M^@pWg,          ^ 8w  d   \        RV RV 24      hV^@,          ^ 8w  d   \        R	V 24      hV\        P
                  8X  d~   \        P                  ! . ROVR
7      \        P                  ! ^ V^,          VR
7      P                  R^4      ^,          P!                  V^,          ^4      ,           P                  R4      pM|\        P                  ! . ROVR
7      \        P                  ! ^ V^,          VR
7      P                  R^4      ^,          P!                  V^,          ^4      ,           P                  R4      pVP#                  ^W„4      pV\        P
                  8X  d   ^M^p	^ V	,          p
\        P                  ! ^ WY,          VR
7      V^,          V	,          ,          P                  R^4      P%                  ^V^,          V	,          4      P                  R4      p\        P                  ! ^ V^,          V
,          VR
7      Wš,          ,          P                  R^4      P%                  ^V
4      P                  R4      P%                  V4      p\        P                  ! ^ W“R
7      V
,          P                  R^4      P%                  ^V^,          4      P                  R4      P%                  WY,          4      p\        P                  ! ^ W£R
7      P%                  V^,          V,          V
,          4      pW¼,           V,           V,           pVP                  R4      P                  \        P&                  4      p\        P(                  ! V4      pVP+                  ^ VV4       VP                  V P                  4      pVP                  R4      p\        P,                  ! V4      pV\        P                  8X  dq   VP/                  \        P0                  4      ^€,           P/                  VP                  4      pVR,          VR&   VR,          VR&   VR,          VR&   VR,          VR&   M¶V\        P
                  8X  d¢   V^,          ^,           ^,          pVR,          ^,          VR,          ,          pV^,	          ^,          ^,           ^,          pVR,          ^,          VR,          ,          pVR,          VR&   VR,          VR&   VR,          VR&   VR,          VR&   V\        P
                  8X  d   V^,          pV^,          pVP                  We4      P                  \        P2                  4      # )r   r   r   r   z%dtypeq must be int8 or quint4x2, got Úcudazweight must be on CUDA, got znrows must be divisible by z, got z#ncols must be divisible by 64, got )Údevice:r   Né   :r   Nr   :r
   Nr   :é   Nr   r	   r   )r   r   é   é   r
   é   é	   é   r   é   é
   é   r   é   é   é   éÿÿÿÿ)r   r
   r   r"   r    r#   r!   r$   r   r   r%   r(   r&   r)   r'   r*   )r   r   r   r   r   Úquint4x2r   ÚtypeÚTr   r   r   r   ÚtensorÚarangeÚreshapeÚexpandÚ
index_copyÚrepeatÚint32Ú
zeros_likeÚscatter_Ú
empty_likeÚtoÚintÚuint8)r   ÚdtypeqÚ	transposer   ÚoutpÚncolsÚnrowsÚdivisorÚcols_permutedÚmagic0Úmagic1Útmp0Útmp1Útmp2Útmp3Úoutp_offsetsÚtmps   &&&              r   Ú8quantized_weight_reorder_for_mixed_dtypes_linear_cutlassrK   "   s4  € ð ‡z�zƒ|�qÔÜÐ6°v·z±z³|°nÀAÐFÓGÐGØ‡|�|”u—z‘zÔ!ÜÐ>¸v¿|¹|¸nÐMÓNÐNØ”—‘Ô ¬%¯.©.Ô 8ÜÐDÀVÀHÐMÓNÐNØ‡}�}×Ñ˜VÔ#ÜÐ;¸F¿M¹M×<NÑ<NÐ;OÐPÓQÐQà�]‰]€F÷ Ø”U—Z‘ZÔØ—8‘8‰DØ”u—~‘~Ô%Ü$Ô%8¸¿¹ÄUÇZÁZÓ9PÓ%Q×%SÑ%SÓTˆDøàˆà—:‘:�L€EØœeŸn™nÔ,‰b°"€GØ…˜!ÔÜÐ:¸7¸)À6È%ÈÐQÓRÐRØˆr…z�Q„ÜÐBÀ5À'ÐJÓKÐKð ”—‘Ôä�LŠLÚFØôô �|Š|˜A˜u¨�{°6Ô:×BÑBÀ2ÀqÓIÈBÕN×VÑVØ˜•˜Róõ	÷ ‰$ˆr‹(ñ 	ô �LŠLÚFØôô �|Š|˜A˜u¨�{°6Ô:×BÑBÀ2ÀqÓIÈBÕN×VÑVØ˜•˜Róõ	÷ ‰$ˆr‹(ð 	ð �?‰?˜1˜mÓ2€Dð œEŸN™NÔ*‰Q°€FØ�6�\€Fô 
�Š�a˜�°Ô	8¸EÀQ½JÈÕ<OÕ	Pß	‰ˆb�!‹ß	‰��5˜A•: Õ&Ó	'ß	‰ˆb‹ð	 	ô 
�Š�a˜ !� vÕ-°fÔ	=ÀÅÕ	Qß	‰ˆb�!‹ß	‰��6Ó	ß	‰ˆb‹ß	‰�‹ð 	ô 
�Š�a˜Ô	/°&Õ	8ß	‰ˆb�!‹ß	‰��5˜A•:Ó	ß	‰ˆb‹ß	‰�•Ó	 ð 	ô �<Š<˜˜6Ô1×8Ñ8¸À!½ÀeÕ9KÈvÕ9UÓV€Dà•; Õ%¨Õ,€Là
�)‰)�B‹-×
Ñ
œUŸ[™[Ó
)€CÜ×Ò˜CÓ €DØ‡M�M�!�\ 3Ô'Ø�9‰9�V—\‘\Ó"€Dð �)‰)�B‹-€Cä×Ò˜CÓ €DØ”—‘ÔØ�v‰v”e—i‘iÓ  3Õ&×*Ñ*¨3¯9©9Ó5ˆØ˜•YˆˆT‰
Ø˜•YˆˆT‰
Ø˜•YˆˆT‰
Ø˜•YˆˆTŠ
Ø	”5—>‘>Ô	!Ø�s•˜a• 3Õ&ˆØ�T•
˜a• 4¨¥:Õ-ˆØ˜•(˜cÕ! QÕ&¨#Õ-ˆØ�T•
˜a• 4¨¥:Õ-ˆØ˜$•ZˆˆT‰
Ø˜$•ZˆˆT‰
Ø˜$•ZˆˆT‰
Ø˜$•ZˆˆT‰
à”—‘ÔØ��
ˆØ�!�ˆà�9‰9�UÓ"×'Ñ'¬¯©Ó4Ð4r   )F)r   r   r   rK   © r   r   Ú<module>rM      s   ðã òDòöp5r   