這黃山派創立於元朝，它的創始人叫海雲禪師，原是元世祖忽必烈的一名謀士，元世祖在世之時，他得到重用，他也盡心輔助忽必烈治理國家。忽必烈年輕時確實是一位賢明的君主，但他晚年也犯了許多帝皇同樣的錯誤，重用奸臣阿合馬、盧世榮、桑哥等人，而且權勢欲極強，自恃功勞大，年近八十歲了，卻仍然把住皇位，不準太子理朝，把朝廷大小事情交給幾個奸臣去做，結果朝綱混亂，賢良忠誠之輩被排擠，他對羣臣和功臣疑心甚重，都懷疑羣臣想搶他的皇位，因此朝中許多賢良忠臣遭到貶庶，甚至殺戮，就連太子真金他也不放過，怕他搶自己的皇位，逼死了太子真金。
真金本來是一位頗有政治才幹的人，他死時只有四十三歲。因爲海雲禪師也一直扶持太子真金，他見太子已死，忽必烈又是非不分，大元朝廷已經無法扶持，便只好隱退到黃山，以躲避禍難。海雲禪師不僅知識淵博，而且武功高強，文才武略均卓絕過人，他此時已經是晚年了，已經七十多歲了，便想把自己一身的武學和博學傳於後人，於是把招收了兩個弟子，把自己所學傳於他們。海雲禪師活了九十多歲纔去世，他死後，他的兩個弟子繼承他的遺願，建立寺廟招受門徒，於是便漸漸成了一個小門派。到了元末明初，天下大亂，黃山附近許多無家可歸的人紛紛把自己的兒子送上黃山，以求保命，於是黃山派便漸漸壯大了起來，到了黃山老叟時，黃山派竟然擠身入了江湖中十大門派的行列。
黃山派的武功大部分源於海雲禪師，而海雲禪師的武功源於嶺南的寶林寺，內功偏向於剛陽純猛之類，本來不適合女子修煉，加上海雲禪師所傳下來的武功多是與少林武學有關，少林派的武學多數與佛理相通才能發揮出它的威力，因此黃山派最初並不出名，後來黃山幾代掌門吸收其它門派的武功自己創造了幾套武功，黃山派纔有了一些名氣。黃山老叟機緣巧合食了黃山的一棵千年靈芝，武功大增，黃山派這纔在江湖中大放光彩。黃山派的劍法最厲害的招數“夢筆生花”、“犀牛望月”、“孔雀戲蓮”、“金龜爬山”、“猴子觀太平”、“南海觀音”、“仙人指路”均是他創造而出，而且這些劍招均以黃山派的幾處名勝來命名。
黃山老叟生前還以一套“三十六路天罡手”飲譽江湖，這套“天罡手”是他結合黃山派歷代相傳的武功“五禽擒拿手”創造出來的，這五禽是指虎、豹、狼、熊、貓五種動物，是黃山派前幾代掌門根據這五種動物捕食的動作創造出的一門厲害擒拿手。而黃山老叟根據自己觀察黃山的猴躍、蛇行、狗跳、鷹擊、鶴翔等多種動物的動作後，加以改進這套“五禽擒拿手”，創造出這套“天罡手”來，專門鎖拿人的要害穴道，往往一招致敵，詭異莫測，精妙無比，足可與江湖中的大擒拿手和小擒拿手相提媲美。