compile/vmware-detect.c

   1 #include "string.h"
   2 #include "unistd.h"
   3 #include "stdio.h"
   4 #include "stdlib.h"
   5
   6 #define WRITE(x) write(1, x, strlen(x))
   7 #define DWRITE(x) do{ \
   8     if(debug) { \
   9         WRITE(x); \
  10     } \
  11 } while(0);
  12 #define FALSE 0
  13 #define TRUE !FALSE
  14
  15 // from libowfat {{{
  16 static inline char tohex(char c) {
  17   return c>=10?c-10+'a':c+'0';
  18 }
  19
  20 unsigned int fmt_xlong(char *dest,unsigned long i) {
  21   register unsigned long len,tmp;
  22   /* first count the number of bytes needed */
  23   for (len=1, tmp=i; tmp>15; ++len) tmp>>=4;
  24   if (dest)
  25     for (tmp=i, dest+=len; ; ) {
  26       *--dest = tohex(tmp&15);
  27       if (!(tmp>>=4)) break;
  28     }
  29   return len;
  30 }
  31 // }}}
  32
  33 void printIdtr(const unsigned char* idtr, unsigned size)
  34 {
  35     unsigned i;
  36     for(i=0; i<=size; ++i) {
  37         char out[4] = {0};
  38         fmt_xlong(out, idtr[i]);
  39         WRITE(out);
  40     }
  41     WRITE("\n");
  42 }
  43
  44 #if defined (__i386__)
  45 int checkVmware(const int debug)
  46 {
  47     unsigned char idtr[6] = {0};
  48     asm("sidt %0" : "=m" (idtr));
  49     if(debug)
  50         printIdtr(idtr, 6);
  51     return (0xff==idtr[5]) ? 1 : 0;
  52 }
  53 int checkVmwareIO()
  54 {
  55     unsigned int vmaj, vmin, magic, dout;
  56     __asm__ __volatile__(
  57             "mov $0x564D5868, %%eax; /* magic number */"
  58             "mov $0x3c6cf712, %%ebx; /* random number */"
  59             "mov $0x0000000A, %%ecx; /* specifies command */"
  60             "mov $0x5658, %%edx; /* VMware I/O port */"
  61             "in %%dx, %%eax;"
  62             "mov %%eax, %0;"
  63             "mov %%ebx, %1;"
  64             "mov %%ecx, %2;"
  65             "mov %%edx, %3;"
  66         : "=r"(vmaj), "=r"(magic), "=r"(vmin), "=r"(dout));
  67     return (0x564D5868 == magic) ? 1 : 0;
  68 }
  69 #elif defined (__x86_64__)
  70 // only guessed, possible need to check against 0xffff?
  71 int checkVmware(const int debug)
  72 {
  73     unsigned char idtr[10];
  74     asm("sidt %0" : "=m" (idtr));
  75     if(debug)
  76         printIdtr(idtr, 10);
  77     return (0xff==idtr[9]) ? 1 : 0;
  78 }
  79 #else
  80 // vmware runs only on the archs above
  81 int checkVmware(const int) { return 0; }
  82 #endif
  83
  84 int main(int argc, char* argv[]) {
  85     int debug = FALSE;
  86     if(argc == 2 && !strcmp(argv[1], "--debug"))
  87         debug = TRUE;
  88
  89     // returns 0 if running inside vmware, 1 otherwise
  90     int a, b;
  91     a = checkVmware(debug);
  92     DWRITE("idt-check: ")
  93     if(a) {
  94         DWRITE("true\n");
  95         return 0;
  96     }
  97     DWRITE("false\n");
  98
  99     // never returns if not running under vmware
 100     void dummy() { DWRITE("false\n"); exit(1); }
 101     signal(SIGSEGV, dummy);
 102     DWRITE("ioport-check: ");
 103     b = checkVmwareIO();
 104     if(b) {
 105         DWRITE("true\n");
 106         return 0;
 107     }
 108     return 1;
 109 }
 110 // vim: foldmethod=marker