ShellExecute gibt den Datentyp HINSTANCE__ * zurück, keinen Integer. Setz' einfach ein (int) vor dein ShellExecute und es sollte gehen.