| 1 | /*
|
|---|
| 2 | * MMX/3DNow!/SSE/SSE2/SSE3/SSSE3/SSE4/PNI support
|
|---|
| 3 | *
|
|---|
| 4 | * Copyright (c) 2005 Fabrice Bellard
|
|---|
| 5 | *
|
|---|
| 6 | * This library is free software; you can redistribute it and/or
|
|---|
| 7 | * modify it under the terms of the GNU Lesser General Public
|
|---|
| 8 | * License as published by the Free Software Foundation; either
|
|---|
| 9 | * version 2 of the License, or (at your option) any later version.
|
|---|
| 10 | *
|
|---|
| 11 | * This library is distributed in the hope that it will be useful,
|
|---|
| 12 | * but WITHOUT ANY WARRANTY; without even the implied warranty of
|
|---|
| 13 | * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
|
|---|
| 14 | * Lesser General Public License for more details.
|
|---|
| 15 | *
|
|---|
| 16 | * You should have received a copy of the GNU Lesser General Public
|
|---|
| 17 | * License along with this library; if not, write to the Free Software
|
|---|
| 18 | * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston MA 02110-1301 USA
|
|---|
| 19 | */
|
|---|
| 20 |
|
|---|
| 21 | /*
|
|---|
| 22 | * Oracle LGPL Disclaimer: For the avoidance of doubt, except that if any license choice
|
|---|
| 23 | * other than GPL or LGPL is available it will apply instead, Oracle elects to use only
|
|---|
| 24 | * the Lesser General Public License version 2.1 (LGPLv2) at this time for any software where
|
|---|
| 25 | * a choice of LGPL license versions is made available with the language indicating
|
|---|
| 26 | * that LGPLv2 or any later version may be used, or where a choice of which version
|
|---|
| 27 | * of the LGPL is applied is otherwise unspecified.
|
|---|
| 28 | */
|
|---|
| 29 |
|
|---|
| 30 | #if SHIFT == 0
|
|---|
| 31 | #define Reg MMXReg
|
|---|
| 32 | #define SUFFIX _mmx
|
|---|
| 33 | #else
|
|---|
| 34 | #define Reg XMMReg
|
|---|
| 35 | #define SUFFIX _xmm
|
|---|
| 36 | #endif
|
|---|
| 37 |
|
|---|
| 38 | #define dh_alias_Reg ptr
|
|---|
| 39 | #define dh_alias_XMMReg ptr
|
|---|
| 40 | #define dh_alias_MMXReg ptr
|
|---|
| 41 | #define dh_ctype_Reg Reg *
|
|---|
| 42 | #define dh_ctype_XMMReg XMMReg *
|
|---|
| 43 | #define dh_ctype_MMXReg MMXReg *
|
|---|
| 44 |
|
|---|
| 45 | DEF_HELPER_2(glue(psrlw, SUFFIX), void, Reg, Reg)
|
|---|
| 46 | DEF_HELPER_2(glue(psraw, SUFFIX), void, Reg, Reg)
|
|---|
| 47 | DEF_HELPER_2(glue(psllw, SUFFIX), void, Reg, Reg)
|
|---|
| 48 | DEF_HELPER_2(glue(psrld, SUFFIX), void, Reg, Reg)
|
|---|
| 49 | DEF_HELPER_2(glue(psrad, SUFFIX), void, Reg, Reg)
|
|---|
| 50 | DEF_HELPER_2(glue(pslld, SUFFIX), void, Reg, Reg)
|
|---|
| 51 | DEF_HELPER_2(glue(psrlq, SUFFIX), void, Reg, Reg)
|
|---|
| 52 | DEF_HELPER_2(glue(psllq, SUFFIX), void, Reg, Reg)
|
|---|
| 53 |
|
|---|
| 54 | #if SHIFT == 1
|
|---|
| 55 | DEF_HELPER_2(glue(psrldq, SUFFIX), void, Reg, Reg)
|
|---|
| 56 | DEF_HELPER_2(glue(pslldq, SUFFIX), void, Reg, Reg)
|
|---|
| 57 | #endif
|
|---|
| 58 |
|
|---|
| 59 | #define SSE_HELPER_B(name, F)\
|
|---|
| 60 | DEF_HELPER_2(glue(name, SUFFIX), void, Reg, Reg)
|
|---|
| 61 |
|
|---|
| 62 | #define SSE_HELPER_W(name, F)\
|
|---|
| 63 | DEF_HELPER_2(glue(name, SUFFIX), void, Reg, Reg)
|
|---|
| 64 |
|
|---|
| 65 | #define SSE_HELPER_L(name, F)\
|
|---|
| 66 | DEF_HELPER_2(glue(name, SUFFIX), void, Reg, Reg)
|
|---|
| 67 |
|
|---|
| 68 | #define SSE_HELPER_Q(name, F)\
|
|---|
| 69 | DEF_HELPER_2(glue(name, SUFFIX), void, Reg, Reg)
|
|---|
| 70 |
|
|---|
| 71 | SSE_HELPER_B(paddb, FADD)
|
|---|
| 72 | SSE_HELPER_W(paddw, FADD)
|
|---|
| 73 | SSE_HELPER_L(paddl, FADD)
|
|---|
| 74 | SSE_HELPER_Q(paddq, FADD)
|
|---|
| 75 |
|
|---|
| 76 | SSE_HELPER_B(psubb, FSUB)
|
|---|
| 77 | SSE_HELPER_W(psubw, FSUB)
|
|---|
| 78 | SSE_HELPER_L(psubl, FSUB)
|
|---|
| 79 | SSE_HELPER_Q(psubq, FSUB)
|
|---|
| 80 |
|
|---|
| 81 | SSE_HELPER_B(paddusb, FADDUB)
|
|---|
| 82 | SSE_HELPER_B(paddsb, FADDSB)
|
|---|
| 83 | SSE_HELPER_B(psubusb, FSUBUB)
|
|---|
| 84 | SSE_HELPER_B(psubsb, FSUBSB)
|
|---|
| 85 |
|
|---|
| 86 | SSE_HELPER_W(paddusw, FADDUW)
|
|---|
| 87 | SSE_HELPER_W(paddsw, FADDSW)
|
|---|
| 88 | SSE_HELPER_W(psubusw, FSUBUW)
|
|---|
| 89 | SSE_HELPER_W(psubsw, FSUBSW)
|
|---|
| 90 |
|
|---|
| 91 | SSE_HELPER_B(pminub, FMINUB)
|
|---|
| 92 | SSE_HELPER_B(pmaxub, FMAXUB)
|
|---|
| 93 |
|
|---|
| 94 | SSE_HELPER_W(pminsw, FMINSW)
|
|---|
| 95 | SSE_HELPER_W(pmaxsw, FMAXSW)
|
|---|
| 96 |
|
|---|
| 97 | SSE_HELPER_Q(pand, FAND)
|
|---|
| 98 | SSE_HELPER_Q(pandn, FANDN)
|
|---|
| 99 | SSE_HELPER_Q(por, FOR)
|
|---|
| 100 | SSE_HELPER_Q(pxor, FXOR)
|
|---|
| 101 |
|
|---|
| 102 | SSE_HELPER_B(pcmpgtb, FCMPGTB)
|
|---|
| 103 | SSE_HELPER_W(pcmpgtw, FCMPGTW)
|
|---|
| 104 | SSE_HELPER_L(pcmpgtl, FCMPGTL)
|
|---|
| 105 |
|
|---|
| 106 | SSE_HELPER_B(pcmpeqb, FCMPEQ)
|
|---|
| 107 | SSE_HELPER_W(pcmpeqw, FCMPEQ)
|
|---|
| 108 | SSE_HELPER_L(pcmpeql, FCMPEQ)
|
|---|
| 109 |
|
|---|
| 110 | SSE_HELPER_W(pmullw, FMULLW)
|
|---|
| 111 | #if SHIFT == 0
|
|---|
| 112 | SSE_HELPER_W(pmulhrw, FMULHRW)
|
|---|
| 113 | #endif
|
|---|
| 114 | SSE_HELPER_W(pmulhuw, FMULHUW)
|
|---|
| 115 | SSE_HELPER_W(pmulhw, FMULHW)
|
|---|
| 116 |
|
|---|
| 117 | SSE_HELPER_B(pavgb, FAVG)
|
|---|
| 118 | SSE_HELPER_W(pavgw, FAVG)
|
|---|
| 119 |
|
|---|
| 120 | DEF_HELPER_2(glue(pmuludq, SUFFIX), void, Reg, Reg)
|
|---|
| 121 | DEF_HELPER_2(glue(pmaddwd, SUFFIX), void, Reg, Reg)
|
|---|
| 122 |
|
|---|
| 123 | DEF_HELPER_2(glue(psadbw, SUFFIX), void, Reg, Reg)
|
|---|
| 124 | DEF_HELPER_3(glue(maskmov, SUFFIX), void, Reg, Reg, tl)
|
|---|
| 125 | DEF_HELPER_2(glue(movl_mm_T0, SUFFIX), void, Reg, i32)
|
|---|
| 126 | #ifdef TARGET_X86_64
|
|---|
| 127 | DEF_HELPER_2(glue(movq_mm_T0, SUFFIX), void, Reg, i64)
|
|---|
| 128 | #endif
|
|---|
| 129 |
|
|---|
| 130 | #if SHIFT == 0
|
|---|
| 131 | DEF_HELPER_3(glue(pshufw, SUFFIX), void, Reg, Reg, int)
|
|---|
| 132 | #else
|
|---|
| 133 | DEF_HELPER_3(shufps, void, Reg, Reg, int)
|
|---|
| 134 | DEF_HELPER_3(shufpd, void, Reg, Reg, int)
|
|---|
| 135 | DEF_HELPER_3(glue(pshufd, SUFFIX), void, Reg, Reg, int)
|
|---|
| 136 | DEF_HELPER_3(glue(pshuflw, SUFFIX), void, Reg, Reg, int)
|
|---|
| 137 | DEF_HELPER_3(glue(pshufhw, SUFFIX), void, Reg, Reg, int)
|
|---|
| 138 | #endif
|
|---|
| 139 |
|
|---|
| 140 | #if SHIFT == 1
|
|---|
| 141 | /* FPU ops */
|
|---|
| 142 | /* XXX: not accurate */
|
|---|
| 143 |
|
|---|
| 144 | #define SSE_HELPER_S(name, F)\
|
|---|
| 145 | DEF_HELPER_2(name ## ps , void, Reg, Reg) \
|
|---|
| 146 | DEF_HELPER_2(name ## ss , void, Reg, Reg) \
|
|---|
| 147 | DEF_HELPER_2(name ## pd , void, Reg, Reg) \
|
|---|
| 148 | DEF_HELPER_2(name ## sd , void, Reg, Reg)
|
|---|
| 149 |
|
|---|
| 150 | SSE_HELPER_S(add, FPU_ADD)
|
|---|
| 151 | SSE_HELPER_S(sub, FPU_SUB)
|
|---|
| 152 | SSE_HELPER_S(mul, FPU_MUL)
|
|---|
| 153 | SSE_HELPER_S(div, FPU_DIV)
|
|---|
| 154 | SSE_HELPER_S(min, FPU_MIN)
|
|---|
| 155 | SSE_HELPER_S(max, FPU_MAX)
|
|---|
| 156 | SSE_HELPER_S(sqrt, FPU_SQRT)
|
|---|
| 157 |
|
|---|
| 158 |
|
|---|
| 159 | DEF_HELPER_2(cvtps2pd, void, Reg, Reg)
|
|---|
| 160 | DEF_HELPER_2(cvtpd2ps, void, Reg, Reg)
|
|---|
| 161 | DEF_HELPER_2(cvtss2sd, void, Reg, Reg)
|
|---|
| 162 | DEF_HELPER_2(cvtsd2ss, void, Reg, Reg)
|
|---|
| 163 | DEF_HELPER_2(cvtdq2ps, void, Reg, Reg)
|
|---|
| 164 | DEF_HELPER_2(cvtdq2pd, void, Reg, Reg)
|
|---|
| 165 | DEF_HELPER_2(cvtpi2ps, void, XMMReg, MMXReg)
|
|---|
| 166 | DEF_HELPER_2(cvtpi2pd, void, XMMReg, MMXReg)
|
|---|
| 167 | DEF_HELPER_2(cvtsi2ss, void, XMMReg, i32)
|
|---|
| 168 | DEF_HELPER_2(cvtsi2sd, void, XMMReg, i32)
|
|---|
| 169 |
|
|---|
| 170 | #ifdef TARGET_X86_64
|
|---|
| 171 | DEF_HELPER_2(cvtsq2ss, void, XMMReg, i64)
|
|---|
| 172 | DEF_HELPER_2(cvtsq2sd, void, XMMReg, i64)
|
|---|
| 173 | #endif
|
|---|
| 174 |
|
|---|
| 175 | DEF_HELPER_2(cvtps2dq, void, XMMReg, XMMReg)
|
|---|
| 176 | DEF_HELPER_2(cvtpd2dq, void, XMMReg, XMMReg)
|
|---|
| 177 | DEF_HELPER_2(cvtps2pi, void, MMXReg, XMMReg)
|
|---|
| 178 | DEF_HELPER_2(cvtpd2pi, void, MMXReg, XMMReg)
|
|---|
| 179 | DEF_HELPER_1(cvtss2si, s32, XMMReg)
|
|---|
| 180 | DEF_HELPER_1(cvtsd2si, s32, XMMReg)
|
|---|
| 181 | #ifdef TARGET_X86_64
|
|---|
| 182 | DEF_HELPER_1(cvtss2sq, s64, XMMReg)
|
|---|
| 183 | DEF_HELPER_1(cvtsd2sq, s64, XMMReg)
|
|---|
| 184 | #endif
|
|---|
| 185 |
|
|---|
| 186 | DEF_HELPER_2(cvttps2dq, void, XMMReg, XMMReg)
|
|---|
| 187 | DEF_HELPER_2(cvttpd2dq, void, XMMReg, XMMReg)
|
|---|
| 188 | DEF_HELPER_2(cvttps2pi, void, MMXReg, XMMReg)
|
|---|
| 189 | DEF_HELPER_2(cvttpd2pi, void, MMXReg, XMMReg)
|
|---|
| 190 | DEF_HELPER_1(cvttss2si, s32, XMMReg)
|
|---|
| 191 | DEF_HELPER_1(cvttsd2si, s32, XMMReg)
|
|---|
| 192 | #ifdef TARGET_X86_64
|
|---|
| 193 | DEF_HELPER_1(cvttss2sq, s64, XMMReg)
|
|---|
| 194 | DEF_HELPER_1(cvttsd2sq, s64, XMMReg)
|
|---|
| 195 | #endif
|
|---|
| 196 |
|
|---|
| 197 | DEF_HELPER_2(rsqrtps, void, XMMReg, XMMReg)
|
|---|
| 198 | DEF_HELPER_2(rsqrtss, void, XMMReg, XMMReg)
|
|---|
| 199 | DEF_HELPER_2(rcpps, void, XMMReg, XMMReg)
|
|---|
| 200 | DEF_HELPER_2(rcpss, void, XMMReg, XMMReg)
|
|---|
| 201 | DEF_HELPER_2(haddps, void, XMMReg, XMMReg)
|
|---|
| 202 | DEF_HELPER_2(haddpd, void, XMMReg, XMMReg)
|
|---|
| 203 | DEF_HELPER_2(hsubps, void, XMMReg, XMMReg)
|
|---|
| 204 | DEF_HELPER_2(hsubpd, void, XMMReg, XMMReg)
|
|---|
| 205 | DEF_HELPER_2(addsubps, void, XMMReg, XMMReg)
|
|---|
| 206 | DEF_HELPER_2(addsubpd, void, XMMReg, XMMReg)
|
|---|
| 207 |
|
|---|
| 208 | #define SSE_HELPER_CMP(name, F)\
|
|---|
| 209 | DEF_HELPER_2( name ## ps , void, Reg, Reg) \
|
|---|
| 210 | DEF_HELPER_2( name ## ss , void, Reg, Reg) \
|
|---|
| 211 | DEF_HELPER_2( name ## pd , void, Reg, Reg) \
|
|---|
| 212 | DEF_HELPER_2( name ## sd , void, Reg, Reg)
|
|---|
| 213 |
|
|---|
| 214 | SSE_HELPER_CMP(cmpeq, FPU_CMPEQ)
|
|---|
| 215 | SSE_HELPER_CMP(cmplt, FPU_CMPLT)
|
|---|
| 216 | SSE_HELPER_CMP(cmple, FPU_CMPLE)
|
|---|
| 217 | SSE_HELPER_CMP(cmpunord, FPU_CMPUNORD)
|
|---|
| 218 | SSE_HELPER_CMP(cmpneq, FPU_CMPNEQ)
|
|---|
| 219 | SSE_HELPER_CMP(cmpnlt, FPU_CMPNLT)
|
|---|
| 220 | SSE_HELPER_CMP(cmpnle, FPU_CMPNLE)
|
|---|
| 221 | SSE_HELPER_CMP(cmpord, FPU_CMPORD)
|
|---|
| 222 |
|
|---|
| 223 | DEF_HELPER_2(ucomiss, void, Reg, Reg)
|
|---|
| 224 | DEF_HELPER_2(comiss, void, Reg, Reg)
|
|---|
| 225 | DEF_HELPER_2(ucomisd, void, Reg, Reg)
|
|---|
| 226 | DEF_HELPER_2(comisd, void, Reg, Reg)
|
|---|
| 227 | DEF_HELPER_1(movmskps, i32, Reg)
|
|---|
| 228 | DEF_HELPER_1(movmskpd, i32, Reg)
|
|---|
| 229 | #endif
|
|---|
| 230 |
|
|---|
| 231 | DEF_HELPER_1(glue(pmovmskb, SUFFIX), i32, Reg)
|
|---|
| 232 | DEF_HELPER_2(glue(packsswb, SUFFIX), void, Reg, Reg)
|
|---|
| 233 | DEF_HELPER_2(glue(packuswb, SUFFIX), void, Reg, Reg)
|
|---|
| 234 | DEF_HELPER_2(glue(packssdw, SUFFIX), void, Reg, Reg)
|
|---|
| 235 | #define UNPCK_OP(base_name, base) \
|
|---|
| 236 | DEF_HELPER_2(glue(punpck ## base_name ## bw, SUFFIX) , void, Reg, Reg) \
|
|---|
| 237 | DEF_HELPER_2(glue(punpck ## base_name ## wd, SUFFIX) , void, Reg, Reg) \
|
|---|
| 238 | DEF_HELPER_2(glue(punpck ## base_name ## dq, SUFFIX) , void, Reg, Reg)
|
|---|
| 239 |
|
|---|
| 240 | UNPCK_OP(l, 0)
|
|---|
| 241 | UNPCK_OP(h, 1)
|
|---|
| 242 |
|
|---|
| 243 | #if SHIFT == 1
|
|---|
| 244 | DEF_HELPER_2(glue(punpcklqdq, SUFFIX), void, Reg, Reg)
|
|---|
| 245 | DEF_HELPER_2(glue(punpckhqdq, SUFFIX), void, Reg, Reg)
|
|---|
| 246 | #endif
|
|---|
| 247 |
|
|---|
| 248 | /* 3DNow! float ops */
|
|---|
| 249 | #if SHIFT == 0
|
|---|
| 250 | DEF_HELPER_2(pi2fd, void, MMXReg, MMXReg)
|
|---|
| 251 | DEF_HELPER_2(pi2fw, void, MMXReg, MMXReg)
|
|---|
| 252 | DEF_HELPER_2(pf2id, void, MMXReg, MMXReg)
|
|---|
| 253 | DEF_HELPER_2(pf2iw, void, MMXReg, MMXReg)
|
|---|
| 254 | DEF_HELPER_2(pfacc, void, MMXReg, MMXReg)
|
|---|
| 255 | DEF_HELPER_2(pfadd, void, MMXReg, MMXReg)
|
|---|
| 256 | DEF_HELPER_2(pfcmpeq, void, MMXReg, MMXReg)
|
|---|
| 257 | DEF_HELPER_2(pfcmpge, void, MMXReg, MMXReg)
|
|---|
| 258 | DEF_HELPER_2(pfcmpgt, void, MMXReg, MMXReg)
|
|---|
| 259 | DEF_HELPER_2(pfmax, void, MMXReg, MMXReg)
|
|---|
| 260 | DEF_HELPER_2(pfmin, void, MMXReg, MMXReg)
|
|---|
| 261 | DEF_HELPER_2(pfmul, void, MMXReg, MMXReg)
|
|---|
| 262 | DEF_HELPER_2(pfnacc, void, MMXReg, MMXReg)
|
|---|
| 263 | DEF_HELPER_2(pfpnacc, void, MMXReg, MMXReg)
|
|---|
| 264 | DEF_HELPER_2(pfrcp, void, MMXReg, MMXReg)
|
|---|
| 265 | DEF_HELPER_2(pfrsqrt, void, MMXReg, MMXReg)
|
|---|
| 266 | DEF_HELPER_2(pfsub, void, MMXReg, MMXReg)
|
|---|
| 267 | DEF_HELPER_2(pfsubr, void, MMXReg, MMXReg)
|
|---|
| 268 | DEF_HELPER_2(pswapd, void, MMXReg, MMXReg)
|
|---|
| 269 | #endif
|
|---|
| 270 |
|
|---|
| 271 | /* SSSE3 op helpers */
|
|---|
| 272 | DEF_HELPER_2(glue(phaddw, SUFFIX), void, Reg, Reg)
|
|---|
| 273 | DEF_HELPER_2(glue(phaddd, SUFFIX), void, Reg, Reg)
|
|---|
| 274 | DEF_HELPER_2(glue(phaddsw, SUFFIX), void, Reg, Reg)
|
|---|
| 275 | DEF_HELPER_2(glue(phsubw, SUFFIX), void, Reg, Reg)
|
|---|
| 276 | DEF_HELPER_2(glue(phsubd, SUFFIX), void, Reg, Reg)
|
|---|
| 277 | DEF_HELPER_2(glue(phsubsw, SUFFIX), void, Reg, Reg)
|
|---|
| 278 | DEF_HELPER_2(glue(pabsb, SUFFIX), void, Reg, Reg)
|
|---|
| 279 | DEF_HELPER_2(glue(pabsw, SUFFIX), void, Reg, Reg)
|
|---|
| 280 | DEF_HELPER_2(glue(pabsd, SUFFIX), void, Reg, Reg)
|
|---|
| 281 | DEF_HELPER_2(glue(pmaddubsw, SUFFIX), void, Reg, Reg)
|
|---|
| 282 | DEF_HELPER_2(glue(pmulhrsw, SUFFIX), void, Reg, Reg)
|
|---|
| 283 | DEF_HELPER_2(glue(pshufb, SUFFIX), void, Reg, Reg)
|
|---|
| 284 | DEF_HELPER_2(glue(psignb, SUFFIX), void, Reg, Reg)
|
|---|
| 285 | DEF_HELPER_2(glue(psignw, SUFFIX), void, Reg, Reg)
|
|---|
| 286 | DEF_HELPER_2(glue(psignd, SUFFIX), void, Reg, Reg)
|
|---|
| 287 | DEF_HELPER_3(glue(palignr, SUFFIX), void, Reg, Reg, s32)
|
|---|
| 288 |
|
|---|
| 289 | /* SSE4.1 op helpers */
|
|---|
| 290 | #if SHIFT == 1
|
|---|
| 291 | DEF_HELPER_2(glue(pblendvb, SUFFIX), void, Reg, Reg)
|
|---|
| 292 | DEF_HELPER_2(glue(blendvps, SUFFIX), void, Reg, Reg)
|
|---|
| 293 | DEF_HELPER_2(glue(blendvpd, SUFFIX), void, Reg, Reg)
|
|---|
| 294 | DEF_HELPER_2(glue(ptest, SUFFIX), void, Reg, Reg)
|
|---|
| 295 | DEF_HELPER_2(glue(pmovsxbw, SUFFIX), void, Reg, Reg)
|
|---|
| 296 | DEF_HELPER_2(glue(pmovsxbd, SUFFIX), void, Reg, Reg)
|
|---|
| 297 | DEF_HELPER_2(glue(pmovsxbq, SUFFIX), void, Reg, Reg)
|
|---|
| 298 | DEF_HELPER_2(glue(pmovsxwd, SUFFIX), void, Reg, Reg)
|
|---|
| 299 | DEF_HELPER_2(glue(pmovsxwq, SUFFIX), void, Reg, Reg)
|
|---|
| 300 | DEF_HELPER_2(glue(pmovsxdq, SUFFIX), void, Reg, Reg)
|
|---|
| 301 | DEF_HELPER_2(glue(pmovzxbw, SUFFIX), void, Reg, Reg)
|
|---|
| 302 | DEF_HELPER_2(glue(pmovzxbd, SUFFIX), void, Reg, Reg)
|
|---|
| 303 | DEF_HELPER_2(glue(pmovzxbq, SUFFIX), void, Reg, Reg)
|
|---|
| 304 | DEF_HELPER_2(glue(pmovzxwd, SUFFIX), void, Reg, Reg)
|
|---|
| 305 | DEF_HELPER_2(glue(pmovzxwq, SUFFIX), void, Reg, Reg)
|
|---|
| 306 | DEF_HELPER_2(glue(pmovzxdq, SUFFIX), void, Reg, Reg)
|
|---|
| 307 | DEF_HELPER_2(glue(pmuldq, SUFFIX), void, Reg, Reg)
|
|---|
| 308 | DEF_HELPER_2(glue(pcmpeqq, SUFFIX), void, Reg, Reg)
|
|---|
| 309 | DEF_HELPER_2(glue(packusdw, SUFFIX), void, Reg, Reg)
|
|---|
| 310 | DEF_HELPER_2(glue(pminsb, SUFFIX), void, Reg, Reg)
|
|---|
| 311 | DEF_HELPER_2(glue(pminsd, SUFFIX), void, Reg, Reg)
|
|---|
| 312 | DEF_HELPER_2(glue(pminuw, SUFFIX), void, Reg, Reg)
|
|---|
| 313 | DEF_HELPER_2(glue(pminud, SUFFIX), void, Reg, Reg)
|
|---|
| 314 | DEF_HELPER_2(glue(pmaxsb, SUFFIX), void, Reg, Reg)
|
|---|
| 315 | DEF_HELPER_2(glue(pmaxsd, SUFFIX), void, Reg, Reg)
|
|---|
| 316 | DEF_HELPER_2(glue(pmaxuw, SUFFIX), void, Reg, Reg)
|
|---|
| 317 | DEF_HELPER_2(glue(pmaxud, SUFFIX), void, Reg, Reg)
|
|---|
| 318 | DEF_HELPER_2(glue(pmulld, SUFFIX), void, Reg, Reg)
|
|---|
| 319 | DEF_HELPER_2(glue(phminposuw, SUFFIX), void, Reg, Reg)
|
|---|
| 320 | DEF_HELPER_3(glue(roundps, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 321 | DEF_HELPER_3(glue(roundpd, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 322 | DEF_HELPER_3(glue(roundss, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 323 | DEF_HELPER_3(glue(roundsd, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 324 | DEF_HELPER_3(glue(blendps, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 325 | DEF_HELPER_3(glue(blendpd, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 326 | DEF_HELPER_3(glue(pblendw, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 327 | DEF_HELPER_3(glue(dpps, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 328 | DEF_HELPER_3(glue(dppd, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 329 | DEF_HELPER_3(glue(mpsadbw, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 330 | #endif
|
|---|
| 331 |
|
|---|
| 332 | /* SSE4.2 op helpers */
|
|---|
| 333 | #if SHIFT == 1
|
|---|
| 334 | DEF_HELPER_2(glue(pcmpgtq, SUFFIX), void, Reg, Reg)
|
|---|
| 335 | DEF_HELPER_3(glue(pcmpestri, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 336 | DEF_HELPER_3(glue(pcmpestrm, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 337 | DEF_HELPER_3(glue(pcmpistri, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 338 | DEF_HELPER_3(glue(pcmpistrm, SUFFIX), void, Reg, Reg, i32)
|
|---|
| 339 | DEF_HELPER_3(crc32, tl, i32, tl, i32)
|
|---|
| 340 | DEF_HELPER_2(popcnt, tl, tl, i32)
|
|---|
| 341 | #endif
|
|---|
| 342 |
|
|---|
| 343 | #undef SHIFT
|
|---|
| 344 | #undef Reg
|
|---|
| 345 | #undef SUFFIX
|
|---|
| 346 |
|
|---|
| 347 | #undef SSE_HELPER_B
|
|---|
| 348 | #undef SSE_HELPER_W
|
|---|
| 349 | #undef SSE_HELPER_L
|
|---|
| 350 | #undef SSE_HELPER_Q
|
|---|
| 351 | #undef SSE_HELPER_S
|
|---|
| 352 | #undef SSE_HELPER_CMP
|
|---|
| 353 | #undef UNPCK_OP
|
|---|
