Keras với phần phụ trợ Tensorflow có thể buộc phải sử dụng CPU hoặc GPU theo ý muốn không?

Tôi đã cài đặt Keras với phần phụ trợ Tensorflow và CUDA. Đôi khi tôi muốn buộc Keras sử dụng CPU theo yêu cầu. Điều này có thể được thực hiện mà không cần cài đặt Tensorflow riêng biệt chỉ dành cho CPU trong môi trường ảo không? Nếu vậy thì làm thế nào? Nếu phụ trợ là Theano, các cờ có thể được thiết lập, nhưng tôi chưa nghe nói về cờ Tensorflow có thể truy cập thông qua Keras.

Nếu bạn muốn buộc Keras sử dụng CPU

Cách 1

import os
os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID"   # see issue #152
os.environ["CUDA_VISIBLE_DEVICES"] = ""

trước khi Keras / Tensorflow được nhập.

Cách 2

Chạy tập lệnh của bạn với tư cách

$ CUDA_VISIBLE_DEVICES="" ./your_keras_code.py

Xem thêm

1. https://github.com/keras-team/keras/issues/152
2. https://github.com/fchollet/keras/issues/4613

Một cách khá tách biệt để làm điều này là sử dụng

import tensorflow as tf
from keras import backend as K

num_cores = 4

if GPU:
    num_GPU = 1
    num_CPU = 1
if CPU:
    num_CPU = 1
    num_GPU = 0

config = tf.ConfigProto(intra_op_parallelism_threads=num_cores,
                        inter_op_parallelism_threads=num_cores, 
                        allow_soft_placement=True,
                        device_count = {'CPU' : num_CPU,
                                        'GPU' : num_GPU}
                       )

session = tf.Session(config=config)
K.set_session(session)

Ở đây, với booleans GPUvà CPU, chúng tôi cho biết liệu chúng tôi muốn chạy mã của mình với GPU hay CPU bằng cách xác định chặt chẽ số lượng GPU và CPU mà phiên Tensorflow được phép truy cập. Các biến num_GPUvà num_CPUxác định giá trị này. num_coressau đó đặt số lõi CPU có sẵn để sử dụng thông qua intra_op_parallelism_threadsvà inter_op_parallelism_threads.

Các intra_op_parallelism_threadsmệnh lệnh biến số lượng đề một hoạt động song song trong một nút duy nhất trong đồ thị tính toán được phép sử dụng (nội). Trong khi inter_ops_parallelism_threadsbiến xác định số luồng có thể truy cập cho các hoạt động song song trên các nút của đồ thị tính toán (inter).

allow_soft_placement cho phép các hoạt động được chạy trên CPU nếu đáp ứng bất kỳ tiêu chí nào sau đây:

1. không có triển khai GPU cho hoạt động

2. không có thiết bị GPU nào được biết đến hoặc đã đăng ký

3. cần phải đồng định vị trí với các đầu vào khác từ CPU

Tất cả điều này được thực thi trong phương thức khởi tạo của lớp tôi trước bất kỳ hoạt động nào khác và hoàn toàn có thể tách biệt khỏi bất kỳ mô hình hoặc mã nào khác mà tôi sử dụng.

Lưu ý: Điều này yêu cầu tensorflow-gpuvà cuda/ cudnnphải được cài đặt vì tùy chọn được cung cấp để sử dụng GPU.

Refs:

• Các tùy chọn trong ConfigProto như allow_soft_placement và log_device_placement có nghĩa là gì?

• Ý nghĩa của inter_op_parallelism_threads và intra_op_parallelism_threads

Điều này phù hợp với tôi (win10), hãy đặt trước khi bạn nhập keras:

import os
os.environ['CUDA_VISIBLE_DEVICES'] = '-1'

Chỉ cần nhập tensortflow và sử dụng keras, thật dễ dàng.

import tensorflow as tf
# your code here
with tf.device('/gpu:0'):
    model.fit(X, y, epochs=20, batch_size=128, callbacks=callbacks_list)

Theo hướng dẫn keras , bạn có thể chỉ cần sử dụng tf.devicephạm vi tương tự như trong tensorflow thông thường:

with tf.device('/gpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on GPU:0

with tf.device('/cpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on CPU:0

Tôi chỉ dành một chút thời gian để tìm ra nó. Câu trả lời của Thoma là không đầy đủ. Giả sử chương trình của bạn là test.py, bạn muốn sử dụng gpu0 để chạy chương trình này và giữ cho gpus khác miễn phí.

Bạn nên viết CUDA_VISIBLE_DEVICES=0 python test.py

Chú ý nó DEVICESkhông phảiDEVICE

Đối với những người làm việc trên PyCharm và buộc CPU, bạn có thể thêm dòng sau trong cấu hình Run / Debug, bên dưới các biến Môi trường:

<OTHER_ENVIRONMENT_VARIABLES>;CUDA_VISIBLE_DEVICES=-1