在办理无犯罪证明时，一般不需要提供日本居住证明。无犯罪证明是用来证明申请人在过去一段时间内没有犯罪记录的文件，通常可通过向公安机关提交申请来获取。在加拿大，一般可以通过向当地警察局提交申请来获取无犯罪证明。
如果您是居住在加拿大的中国人，想要办理无犯罪证明，您可以联系当地的警察局或市政府了解具体办理流程和所需材料。一般情况下，您可能需要提供一份有效的身份证明、护照复印件、居住地址证明（比如租房合同或水电费单据）等材料。
如果您曾在日本居住过，但是现在已经移居到加拿大，通常不需要提供日本居住证明来办理加拿大的无犯罪证明。无犯罪证明一般针对您在加拿大的居住和犯罪记录进行核查。
如果您在办理无犯罪证明时遇到任何问题或需要更详细的信息，请咨询当地相关部门或法律专业人士，以确保您按照正确的办理要求进行操作。