Данная проблема уже обсуждалась на нашем форуме.
Пройдите по ссылке https://forum.rutoken.ru/topic/2387/

Делаю по инструкции:

openssl genrsa -out keys.pem 2048
openssl req -new -key keys.pem -out cert.csr

openssl x509 -req -days 700 -in cert.csr -signkey keys.pem -out cert.cert

openssl rsa -inform PEM -in keys.pem -out keys.der -outform DER
openssl x509 -in cert.cert -out cert.der -outform der

pkcs11-tool --module /usr/local/lib/librtpkcs11ecp.so -l -y privkey -w keys.der --id 10 --label Rutoken1
pkcs11-tool --module /usr/local/lib/librtpkcs11ecp.so -l -y cert -w cert.der --id 10 --label Rutoken1

Сертификат записывается.
При записи закрытого ключа ошибка:
error: PKCS11 function C_CreateObject failed: rv = CKR_TEMPLATE_INCONSISTENT (0xd1)

ПО:
MacOS 10.11.6
opensc 0.16.0
librtpkcs11ecp.so последний из раздела загрузки

Пробовал на линуксе (opensc 0.16.0). Результат такой же.