在儒家天人合一的觀念中，天和人都是一個宇宙，只有大小之分。由於天圓地方，因此，人的頭圓而腳方。天上有日月星辰和風雨雷電，因而人有五官和七情六欲。地上有九州，因而人有九竅。圓周分為三百六十度，人因而有三百六十根骨骼。中國有十二條河川，因而人體有十二條經脈。
道家的陰陽五行學說對中醫也有重要影響。道家認為，陰陽可以解釋一切事物。陰代表女性，也象徵寒冷、黑暗、疾病和死亡。陽代表男性，也象徵溫暖、光明、健康和生命。陰陽和諧則萬物井然有序，陰陽失調則會導致疾病和死亡。
五行學說認為，世界是由金、木、水、火、土五行構成的，人體也一樣由五行構成。當五行在人體內分佈均勻，生克有序時，人體就保持健康，如果五行在人體內分佈不均，或生克出現混亂，就會出現疾病。五行不但跟肺、肝、腎、心、脾五臟相對應，它還跟五色、五味、五音、五方等息息相關。例如，中醫認為，肺跟白色相對應，肝跟青色相對應，腎跟黑色相對應，心跟紅色相對應，脾跟黃色相對應。
由於道家的陰陽五行學說對中醫有深刻影響，因此，有人將中醫溯源為伏羲所創。傳說伏羲推演八卦，使陰陽五行學說含義深邃。但是，伏羲與中醫似乎沒有直接的淵源。
中醫可以上溯到西元前二千八百年的神農（西元前2838---西元前2698）時代。《史記綱鑒》記載："神農嘗百草，始有醫藥。"傳說神農親自嘗試各種草木的功效，"一日而遇七十毒"。《搜神記》則說，神農利用"赭鞭"鞭打百草，以瞭解其平毒寒溫之性。
到了西漢末年，有人收集整理當時所知的三百六十五種藥物的資料，編成《本草》一書，並偽託是神農所著。《黃帝內經》大約完成于戰國時代，卻偽託是黃帝（西元前2698---西元前2598）與首相歧伯的醫藥問答實錄。中國稱醫術為歧黃之術，指的就是歧伯和黃帝。
周代以前，醫師可能只是帝王御用的官員。根據傳說，黃帝時的名醫很多，歧伯能治百病，雷公創造了藥性炮製法，俞跗會剖胃洗腸，僦貸季精通脈理，桐君專門研究藥餌處方。他們都是黃帝的臣子。到了商代，伊尹是有名的醫師，他始創以湯藥治病，他也是商代湯王的首相。
周代開始有醫事制度。醫政處中設有醫師上士兩人，下士兩人，記錄兩人，書記兩人，徒二十人，分為飲食、內科、外科和獸醫四部。這時，巫師和醫師已經初步分離。中國古代的醫字原來寫成"毉"，到了周代才以"酉"代"巫"，寫成"醫"。這表明，周代開始用藥酒為病人治病。