バンド名の由来は未だ不明だが「エレファント・マン」と「かしまし娘」を合わせるといった、言葉遊びの類だと言われている。1981年に宮本、石森、冨永を含む中学のクラスメートで結成された(そのほかにギターと女子のオルガンがいたという)。主にディープ・パープル、レインボー、RCサクセションのコピーを演奏。翌年EastWestの地区予選に参加し、初ステージを踏む。新宿JAMなどでライヴ活動を展開していた。1986年、冨永の高校時代の同級生だった高緑が加入し、現在のメンバーとなる。同年12月、CBS SONY SDオーディションに入賞。デビューのきっかけをつかみ、双啓舎と契約。