御創建は神代とも神武天皇の御代とも伝えられるが詳らかでない。
しかし、当社に伝わる旧記には、『笛吹連(ふえふきのむらじ・当社の祭祀を代々受け継ぐ持田家の先祖)の祖 櫂子(かじし)は火明命の後にして崇神天皇の十年 建埴安彦を討ちて功あり 天皇より天磐笛を賞賜せられ笛吹連の名を命ぜられる』とあり、崇神天皇の御代には既に当社が鎭座していたことが伺える。又、平安時代に全国数万の神社より特に靈験灼かな神社を記載した延喜式神名帳には、『葛木坐火雷神社二座並名神大月次相嘗新嘗』と記されている。ここに記された神社を式内社というが、延喜式内の神の数は大中小社併せて三一三二座あり、神社の数は二八六一社ある。その内七一座のみ、祈年祭、月次祭、新嘗祭、相嘗祭に朝廷より幣帛を賜った。御祭神火雷大神、天香山命はこの七一座に御加列になり、その上名神大社に列せられたばかりでなく、国の大事には必ず勅使(天皇の御名代)が参向され幣帛を捧げられた。
火雷大神を祀る火雷神社と笛吹連の祖神天香山命を祀る笛吹神社の二社は元々別にお祀りされていたようだが、現在は合祀されて主祭神二座(火雷大神・天香山命)となっている。
天香山命の子孫 笛吹連が代々この地に住み、祖先神に奉仕しこの土地を笛吹と称えた。その為か、現在も正式な葛木坐火雷神社という名よりも笛吹神社という名の方が地元の人々にも親しまれている。
火雷大神が火の神様であることから、火を扱う職業(飲食業・製造業・工場)や消防関係の崇敬を集めている。又、天香山命の御神徳から笛やフルート、尺八等楽器の上達を願う方の崇敬が篤く、全国各地から奉納演奏に来られる方も多い。