申请日本的无犯罪证明通常需要以下材料：
1. 护照：提供有效的护照复印件。
2. 申请表格：填写完整的无犯罪证明申请表格。
3. 居住地证明：提供居住在加拿大的证明，例如租房合同、水电费单据或居住证明信等。
4. 身份证明：提供有效的身份证明文件，例如身份证或驾驶证复印件。
5. 过去犯罪记录：提供加拿大公安部门出具的无犯罪记录证明，通常需要提供指纹和背景调查。
请注意，具体要求可能会因个人情况或申请类型而有所不同，请在申请前向日本使领馆或签证中心咨询最新的要求。此外，有些特殊情况下，还可能需要提供其他补充材料，例如警察局注册文件、学历证明或工作证明等。
建议在开始准备材料前，提前咨询日本使领馆或签证中心，确保提供准确、完整的材料，以避免延误申请进程。