через что открывать файл в формате dmg?

на самом деле это формат образа диска (виртуальный диск) который используется в операционной системе MAC OS X 10.
аналог его в WINDOWS есть формат img .
вот что надо сделать : Установите UltraISO, выберите Tools-Convert... Затем выберите ваш .dmg и установите формат выходного файла с ISO Затем, чтобы преобразовать .ISO в .IMG подключите .ISO в эмулятор CD/DVD-ROM (напр. Daemon Tools, Alcohol 120% или Nero Image Drive) Затем используйте его как обычный образ .

File Type: Macintosh OS X Disk Copy Disk Image File
File Extension: .dmg
Description: DMG files contain a mountable disk image created on Mac OS X. It is commonly used for Mac OS software installers.