한자어 '치매'는 '어리석을 치(癡)'와 '어리석을 매(呆)', 곧 어리석음이라는 뜻 두 개가 나오는 부정적인 단어이다. 이러한 단어를 최초로 제시한 사람은 일본 도쿄제국대학 교수 구레 슈조(呉秀三, 1865~1932)로, 독일어 Demenz를 번역할 때 제안했던 용어가 한중일 모두에 광범위하게 사용된 것이다.
영어 어휘인 '디멘시아(Dementia)'는 라틴어계 어휘로, 역시 어근을 분석하면 'de-'는 낮아짐(down)을 의미하는 접두사, 'ment'은 '정신(mental)', '-ia'는 질병을 가리키는 접미사이다. 뜻을 종합해 보면 '정신적 기능이 저하되는 질병'이라는 뜻이 된다. 독일어 Demenz, 프랑스어 démence, 이탈리아어 demenza, 스페인어 demencia도 모두 같은 어원이다.
이러한 어감 때문에 대만에서는 지적 능력을 잃어버린다는 의미의 '실지증(失知症)'으로, 일본에서는 인지 능력에 병이 생긴다는 뜻의 '인지증(認にん知ち症しょう, 닌치쇼우)'이라는 병명으로 각각 변경한 바 있다. 본래 일본에서도 '치매(痴ち呆ほう, 치호우)'라는 단어를 병명으로 사용하다가 바꾼 것으로 대한민국의 조현병, 뇌전증 명명 사례와 비슷한 케이스라고 할 수 있다.
한국에서도 보호센터 등에서는 치매라는 말을 들을 시 환자의 기분을 상하게 할 수 있으므로 '인지 장애'나 '디멘시아'라는 용어로 칭하는 때가 있으며, 매 국회 회기에서도 의학용어 및 법률용어로서 '치매'를 '인지증', '인지저하증', '인지흐림증' 등의 용어로 변경하자는 주장이 제기된다. 하지만 이에 대해 대한의사협회는 회의론 내지 신중해야 한다는 입장이다. 의협에 따르면 의학적 평가 없이 단순히 '듣기 싫다'는 이유로 변경하게 되면 명칭 정정 및 적용에 많은 비용이 발생하며, 치매 자체는 전문적 진단에도 쓰이고 있는 용어이므로 일반적인 인지 능력 저하와의 중증도 구분에 애로사항이 생기고, 또 환자들이 경각심을 갖고 조기에 치료에 임할 수 있는 가능성도 줄어든다는 것이다. 의협은 "대국민 홍보비용, 국가가 추진 중인 사업명 또는 전국 약 270여 개소의 치매안심센터 등 치매관리사업 수행기관의 기관명 변경 사업장 명칭 변경에 따른 제반 비용이 크다"고 지적하며, "오히려 환자의 조기 발견과 적극적인 치료에 있어 혼선을 야기할 수 있으므로 명칭 변경은 신중을 기해야 할 것으로 판단한다"고 밝혔다