mac で動画ファイルを変換するソフトは、
HandBrake
が定番らしい(Windows 版もあり)。

で、DVD からだと
MacTheRipper
FairMount (こちらの方が新しい様子。)

が必要なときも。(著作権に注意。)