if( !CryptSetProvParam(hCryptProv, PP_SMARTCARD_READER, (const BYTE*)"Activ Co. ruToken 0", NULL))

неправильно скопировали имя :)
"Aktiv Co. ruToken 0" - через букву К

1. В каком файле объявлен PP_RTCSP_CURRENT_READER и как можно получить этот файл?

2. Правильно ли я задал имя ридера? Если да, то почему возникает ошибка?
if( !CryptSetProvParam(hCryptProv, PP_SMARTCARD_READER, (const BYTE*)"Activ Co. ruToken 0", NULL))
{
    dwError = GetLastError() ; //Ошибка с кодом 0x80100017
    return;
}
P.S в панели управления мой RuToken виден именно с этим именем ридера.

Здравствуйте,

По этой ссылке https://forum.rutoken.ru/post/3582/#p3582 вы пишете:
На нашем сайте выложена новая версия драйверов Рутокен  v. 2.81.00.0424
Доработан криптопровайдер. Реализована возможность работы без отображения пользовательского интерфейса.

Имею:
RuToken S с драйверами 2.100.00.0542,
Windows 2008 R2.

Вызываю:

#define MYPROV TEXT("Aktiv Rutoken CSP v1.0")
const BYTE pin[] = {0x31,0x32,0x33,0x34,0x35,0x36,0x37,0x38,0x00};
DWORD dwError = 0;
HCRYPTPROV hCryptProv = NULL;

if( !CryptAcquireContext(    &hCryptProv, NULL, MYPROV, PROV_RSA_FULL, CRYPT_VERIFYCONTEXT | CRYPT_SILENT))
{
    dwError = GetLastError();
        return;
}

if( !CryptSetProvParam(hCryptProv, PP_KEYEXCHANGE_PIN, pin, NULL))
{
       dwError = GetLastError() ; //Ошибка с кодом 13
}

Почему возникает ошибка?

Перед вызовом CryptSetProvParam(hCryptProv, PP_KEYEXCHANGE_PIN, pin, NULL) надо вызвать CryptSetProvParam с параметром PP_RTCSP_CURRENT_READER или PP_SMARTCARD_READER, указав имя ридера, на который надо залогиниться.

По этой ссылке https://forum.rutoken.ru/post/3582/#p3582 вы пишете:
На нашем сайте выложена новая версия драйверов Рутокен  v. 2.81.00.0424
Доработан криптопровайдер. Реализована возможность работы без отображения пользовательского интерфейса.

Имею:
RuToken S с драйверами 2.100.00.0542,
Windows 2008 R2.

Вызываю:

#define MYPROV TEXT("Aktiv Rutoken CSP v1.0")
const BYTE pin[] = {0x31,0x32,0x33,0x34,0x35,0x36,0x37,0x38,0x00};
DWORD dwError = 0;
HCRYPTPROV hCryptProv = NULL;

if( !CryptAcquireContext(    &hCryptProv, NULL, MYPROV, PROV_RSA_FULL, CRYPT_VERIFYCONTEXT | CRYPT_SILENT))
{
    dwError = GetLastError();
        return;
}

if( !CryptSetProvParam(hCryptProv, PP_KEYEXCHANGE_PIN, pin, NULL))
{
       dwError = GetLastError() ; //Ошибка с кодом 13
}

Почему возникает ошибка?

Однако можно сделать кэширование пин-кода на уровне нашего API, которое используется Aktiv Rutoken CSP. Это предмет будущих разработок. Этот функционал обязательно будет реализован.

Сейчас кэширование реализовано только в CSP.
Алгоритм работы такой:
1. Для кэширования пин-кода приложение должно вызвать CryptSetProvParam с флагом PP_SIGNATURE_PIN или PP_KEYEXCHANGE_PIN, и в pbData передать пин-код.
2. Сброс закэшированного пин-кода осуществляется вызовом той же функции с pbData == NULL, либо по отключению Rutoken.

До сброса пин-кода можно вызывать CryptReleaseContext, CryptAcquireContext и любые другие функции. До явного сброса пин-кода, он не будет запрашиваться у пользователя, и будет использован закэшированный.