8.5 数据操作 转换长度

def _get_embed_device(vocab_size):
    gpus=_get_available_gpus()
    if not gpus or vocab_size > VOCAB_SIZE_THRESHOLD_CPU:
        return "/cpu:0"
    return "/gpu:0"

def transform_sentence(sentence, ws, max_len=None, add_end=False):
    encoded=ws.transform(
        sentence,
        max_len=max_len if max_len is not None else len(sentence))
    encoded_len= len(sentence)+(1 if add_end else 0)
    if encoded_len>len(encoded):
        encoded_len=len(encoded)
    
    return encoded, encoded_len

if __name__=='__main__':
    size=30000
    print(_get_embed_device(size))

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值