指南针作为一种指向仪器，在中国古代军事上、生产上、日常生活上、地形测量上，尤其在航海事业上，都起过重要的作用。

中国古代航海业相当发达。到宋朝，中国庞大的商船队经常往返于南太平洋和印度洋的航线上。海上交通的迅速发展和扩大，是和指南针在航海上的应用分不开的。在指南针用于航海之前，海上航行只能依据日月星辰来定位，一遇阴晦天气，就束手无策。

而在指南针用于航海之后，不论天气阴暗，航向都可辨认。史籍中最早记载到指南针用于航海的是在北宋。朱彧（yù）在他的《萍洲可谈》一书中评述了当时广州航海业兴旺的盛况，同时也记述了中国海船在海上航行的情形。

《萍洲可谈》中说：“舟师识地理，夜则观星，昼则观日，阴晦观指南针。”

这时海上航行还只是在日月星辰见不到的日子里才用指南针，这是由于人们对靠日月垦辰来定位有一千多年的经验，而对指南针的使用还不很熟练。随着指南针在海上航行的不断应用，人们对它的依赖也与日俱增，并且有专人看管。

南宋吴自牧在他所写的《梦粱录》中说道：“风雨冥晦时，惟凭针盘而行，乃火长掌之，毫厘不敢差误，盖一舟人命所系也。”由此也可以看出指南针在航海中的地位和作用。

到了元代，指南针一跃而成海上指航的最重要仪器了，不论冥晦阴暗，都利用指南针来指航。而且这时海上航行还专门编制出罗盘针路，船行到什么地方，采用什么针位，一路航线都一一标识明白。元代的《海道经》和《大元海运记》里都有关于罗盘针路的记载。元代周达观写的《真腊风土记》里，除了描述海上见闻外，还写到海船从温州开航，“行丁未针”。这是由于南洋各国在中国南部，所以海船从温州出发要用南向偏西的丁未针位。

明初航海家郑和“七下西洋”，扩大了中国的对外贸易，促进了东西方的经济和文化交流，加强了中国的国际政治影响，为增进中国同世界各民族的友谊作出了卓越的贡献。他这样大规模的远海航行之所以安全无虞，端赖指南针的忠实指航。

郑和的巨舰，从江苏刘家港出发到苏门答腊北端，沿途航线都标有罗盘针路，在苏门答腊之后的航程中，又用罗盘针路和牵星术相辅而行。指南针为郑和开辟中国到东非航线提供了可靠的保证。就世界范围来说，指南针在航海上的应用，导致了以后哥伦布（约1451—1506）对美洲大陆的发现和麦哲仑（约1480—1521）的环球航行。这大大加速了世界经济发展的进程，为资本主义的发展提供了必不可少的前提。