Лучшее решение состоит в том, чтобы попробовать альтернативу. QtOctave. Это работает почти прекрасное на меня. Но если Вы хотите определенно использовать Matlab, долгое, но совершенно рабочее решение состоит в том, чтобы установить XP до VirtualBox и получить Matlab, работающий в бесшовном режиме.