Необходимо скомпилировать PHP с опцией --with-mhash[=DIR] . Можно принудительно указать директорию с mhash.
Начиная с PHP 5.3.0, расширение mhash эмулируется через расширение Hash. Поэтому указание директории установки mhash не будет иметь никакого эффекта, и требуется включенное расширение хеширования для того, чтобы сделать поддержку расширения mhash доступной.