大概远在一百七十万年以前，人类的原始祖先——类人猿就已生活在这片土地上。他们使用最原始的工具，凭借有限的劳动经验，依靠简单的劳动协作，去对抗自然界中的种种灾难，抗击猛兽的频繁侵袭，获取生存必要的食物。他们最先使用的工具，都是一些经过简单加工或尚未加工的石片，如刮削器、砍砸器、尖状器等，这是我们祖先最早的生产工具和武器，他们就是用这些石器，艰难而顽强地改造着自然，也改造着他们自身。
到了氏族公社中期，石器具备了更加合适的形状和锋利的刃口。同时也增加了其他材质的工具，如动物的骨骼、角、牙齿，植物的干茎、枝条等，这些工具多数是比较尖锐的，就连陶器的碎片也有这个特点。氏族公社的晚期，开始出现了金属冶炼业。
后来有了火，火种的保存以及“钻木取火”等生火方法，使人们吃上了熟的食物。火的使用，使人类的生活产生了根本变化。
但谁也没有想到，正是砭石的磨砺，火的发明和使用，为针灸的出现奠定了基础，并使之成为一种传世的医疗方法。
远古时期，人们基于生活与防卫的本能，在身体不舒服、发生病痛的时候，便会本能地用指掌按摩、用爪甲切掐患处，或用各种工具捶打、压刺，或烤灼烫熏等等，人们偶然被一些尖硬物体，如石头、荆棘等碰撞了身体表面的某个部位，出现意想不到的其他部位疼痛减轻的现象。于是古人开始有意识地用一些尖利的石块来刺身体的某些部位，或人为地刺破身体使之出血，以减轻疼痛。这就是针法最早的雏形。
灸法产生于火的发现和使用之后。在用火的过程中，人们发现身体某部位的病痛经火的烧灼、烘烤后可得以缓解或解除，继而学会用兽皮或树皮包裹烧热的石块、砂土进行局部热熨，逐步发展为以点燃的树枝或干草烘烤来治疗疾病。经过长期的摸索，选择了易燃而具有温通经脉作用的艾叶作为灸治的主要材料，于体表局部进行温热刺激，从而使灸法和针刺一样，成为防病治病的重要方法。由于具有易于燃烧、气味芳香、资源丰富、易于加工贮藏等特点，艾叶后来成为了最主要的灸治原料。
就在这些有意识或无意识的动作当中，人们逐渐发现了缓和痛苦或解除痛苦的方法，在群居生活中，相互交流试用，并逐步推广与演进，就成了一种治病的方法——针灸。
远在新石器时代，我们的祖先就应用“砭”和“灸”治病了。“砭石”，就是针刺治病的原始工具，大约出现于距今 4000—8000年前的新石器时代。那时的人类已掌握了挖制、磨制技术，能够制作一些比较精致的适合于刺入身体以治疗疾病的石器，这种石器就是最古老的医疗工具——砭石。随着社会经济的发展，人们又相继发明制造了骨针、竹针、陶针。大约从青铜时代开始，针刺工具就改用金属制品了。
究竟谁是第一个发明针灸的人，已经无从考查，但不可否认的是，针灸学是古人从自卫、谋取缓解痛苦的种种动作中逐渐掌握的。由无意识的动作到有意识的解除痛苦，经过了不知多少尝试，是若干年的经验所积累而成的宝贵财富。